SparkConf conf = new SparkConf().setMaster("local").setAppName("My App");
JavaSparkContext sc = new JavaSparkContext(conf);
これらの例は、
SparkContext
を初期化するための最小限の方法で、パラメータを
2
つだけ渡し
ています。
•
URL
Spark
にクラスタへの接続方法を指定します。これらの例では
local
を指定していますが、これは特別な値であり、
Spark
をクラスタに接続することなく、
ローカルマシン上の単一のスレッドで動作させます。
•
ーここでの例では
My App
です。クラスタに接続した場合、クラスタ
マネージャの
UI
ではこの名前でアプリケーションを識別することになります。
アプリケーションの実行や、クラスタに配送されるコードを追加するための追加パラメータもあ
りますが、それらについては、本書の後々の章で取り上げていきます。
SparkContext
を初期化した後は、先に示したような
RDD
の生成(例えばテキストファイルか
ら)と操作のためのメソッドが、すべて利用できるようになります。 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.