
1
章
Spark
を理解する
1
1
章
Spark
を理解する
Apache Spark は、もともと Matei Zaharia がUC バークレー在籍中に博士号論文の一部として開発
した強力なオープンソースの処理エンジンです。Spark の最初のバージョンは 2012 年にリリースされ、
2013 年には ZahariaはDatabricksを 共 同 創 業 し 、そ の CTOとなりました。彼は MIT からスタンフォー
ドに移り、教授にもなっています。同時に、Spark のコードベースは Apache Software Foundationに
寄贈され、その主力プロジェクトとなりました。
Apache Spark は高速で使いやすいフレームワークであり、半構造化データ、構造化データ、ストリー
ミングデータ、そして機械学習やデータサイエンスなど、広範囲にわたる複雑なデータの問題の解決に
利用できます。また、Apache Sparkにはコントリビューターとして世界中の 570 以上の地域にわたる
250 以上の組織と300,000 人を超えるSparkミートアップのコミュニティメンバーから 1,000 人以上が
参加しており、Sparkのコミュニティはビッグデータにおける最大のオープンソースコミュニティの一つ
にもなりました。
本章は、Apache Spark を理解するための入門編です。Spark のジョブや APIの背景にある概念を解
説し、Spark 2.0のアーキテクチャを紹介し、Spark ...