
236
12
章 ビッグデータ
●
処理パワーよりもデータの増加するスピードのほうが速い
●
これまで上手くいった手法や技術が、データサイズの増加に対応できないため(スケールできな
いため)、やり直す必要がある
●
データ全体がメモリに入りきらない場合、現状のアルゴリズムでは対応できない
●
データを管理すること自体、主要なタスクになる
●
コンピュータクラスタやマルチコアのマシンを使用することがオプションではなく、必要不可欠
になる
本章の前半では、上記の最後にある「マルチコア(一台もしくは複数台のマシン)を使って、計算を
高速化する構成方法」について焦点を当てます。これは、中規模程度のデータの場合でも有効に働く
ことでしょう。
12.2
jug
を使って、一連の処理をタスクに分割する
通常、私たちは次のような一連の処理を行います。それは、初期データに対して前処理を施し、特
徴量を計算し、その特徴量を用いて機械学習アルゴリズムを実行するという流
れです。
jugというパッケージは、本書の著者の一人であるLuis Pedro Coelhoによって開発されています。
オープンソース(MITライセンス)であり、多くの分野で用いることができますが、主にデータ分析用
に設計されています。jugを用いることで、一斉に問題を解くことができます。たとえば、次のような
ことができます。
●
一時的な結果をディスク(またはデータベース)に保存することができます。前に計算した内容
を再度計算するように命令したとき、結果をディスクから読み込む ...