
10.5
グローバル集計の簡単な例
207
のgreenと5つの blueと1つのgohawksという値を返させるということです。次のセクションでは、
updateStateByKey / mapWithState
という形のグローバルな集計について述べていきます。
PySpark
でのストリーミングのには、他にも次のようなものがあります。
Network Wordcount(Apache SparkのGitHubリポジトリ)(
https://github.com/apache/
spark/blob/master/examples/src/main/python/streaming/network_wordcount.py
)
Python Streaming Examples(
https://github.com/apache/spark/tree/master/examples/
src/main/python/streaming
)
S3 FileStream Wordcount(Databricksノートブック)(
https://docs.cloud.databricks.
com/docs/latest/databricks_guide/index.html#07%20Spark%20Streaming/06%20
FileStream%20Word%20Count%20-%20Python.html
)
10.5
グローバル集計の簡単な例
すでに述べたとおり、前セクションのスクリプトがストリー