10章データの読み込み
インターネットをテキストベースのWebサイトの集合と考え、テキストではないWeb2.0のマルチメディアコンテンツについては、Webスクレイピングの目的においてはそのほとんどを無視できると考えたくなります。しかしそれはインターネットがファイルの転送手段でありコンテンツの形式を問わないという、根本的な特徴を無視しています。
インターネットは1960年代後半から何らかの形で存在していましたが、HTMLが登場したのは1992年のことです。HTMLの登場以前のインターネットでは、主に電子メールやファイル転送が中心で、現在のようなウェブページの概念は存在していませんでした。つまりインターネットはただのHTMLファイルの集合体ではなく、テキスト、PDF、画像、動画、電子メールなど、さまざまな種類のデータが集まっています。それらを読むことができなければ、利用可能なデータの大部分を見逃してしまうことになるでしょう。
本章では、ローカルフォルダにファイルをダウンロードしたりファイル内のデータを抽出するといった、データの取り扱いについて説明します。また英語以外の言語のHTMLページを読むためのさまざまな種類のテキストエンコーディングについても解説します。
10.1 エンコーディング
データのエンコーディングは、オペレーティングシステムやPythonのアプリケーションに対し、どのようにすればファイルを読むことができるかを伝えます。このエンコーディングは通常ファイル拡張子から推測ができますが、拡張子は必須というわけではありません。例えばmyImage.jpgをmyImage.txtとして保存することもできます。そのファイルを利用するアプリケーションが、ファイルを開こうとするまでは問題にならないでしょう。この例は少し特殊な例ですが、正しく読むためにはファイル拡張子がわかっていれば、通常は十分です。 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access