
196
9
章
Blaze
によるポリグロットパーシステンス
9.5
まとめ
本章で紹介した概念は、Blazeの利用の始まりに過ぎません。Blazeにはもっと多彩な利用方法があ
り、接続できるデータソースももっとたくさんあります。本章は、ポリグロットパーシステンスを理解す
るための出発点としてください。
とはいえ注意すべきことは、本章で説明した概念のほとんどは、Spark 内でも直接実現できるという
ことです。これは SQLAlchemyをSpark内で直接使えばさまざまなデータソースを容易に扱えること
によります。SQLAlchemy のAPIを学ぶための初期投資が必要になるとはいえ、この方法であれば返さ
れたデータは Spark のDataFrameに格納されるので、PySpark から利用できるすべての機能が利用で
きることになります。ただしこれは、Blazeを使うべきではないということではありません。選択をする
のは常に自分自身です。
次章では、ストリーミングとは何か、そして Sparkでストリーミングを扱う方法を学びます。今日で
は 、世 界 的 に 見 れ ば ( 少 な く と も 2016 年現在では)日々およそ 2.5 エクサバイトのデータの取り込み、処
理、そして把握が求められており、ストリーミングというトピックの重要性は高まり続けています(http://
www.northeastern.edu/levelblog/2016/05/13/how-much-data-produced ...