book

実践自然言語処理 ―実世界NLPアプリケーション開発のベストプラクティス

Name: 実践 自然言語処理 ―実世界NLPアプリケーション開発のベストプラクティス
ISBN: 9784873119724

by Sowmya Vajjala, Bodhisattwa Majumder, Anuj Gupta, Harshit Surana, 中山光樹

February 2022

Intermediate to advanced

512 pages

8h 17m

Japanese

O'Reilly Japan, Inc.

Read now

Unlock full access

　大扉
　原書大扉
　クレジット
　献辞
　賞賛の声
　序文
　訳者まえがき
　まえがき
第Ⅰ部　基礎
　1章　自然言語処理入門
　　1.1　実世界での自然言語処理　　　　　コアアプリケーション　　　　　その他のアプリケーション　　　1.1.1　NLPのタスク　　1.2　言語とは何か　　　1.2.1　言語の構成要素　　　　1.2.1.1　音素　　　　1.2.1.2　形態素と語彙素　　　　1.2.1.3　構文　　　　1.2.1.4　文脈　　　1.2.2　自然言語処理の難しさ　　　　1.2.2.1　曖昧性　　　　1.2.2.2　一般常識　　　　1.2.2.3　創造性　　　　1.2.2.4　言語間の多様性　　1.3　機械学習、ディープラーニング、そして自然言語処理の概要　　1.4　自然言語処理のアプローチ　　　1.4.1　ヒューリスティックを用いた自然言語処理　　　1.4.2　機械学習を用いた自然言語処理　　　　1.4.2.1　ナイーブベイズ　　　　1.4.2.2　サポートベクトルマシン　　　　1.4.2.3　隠れマルコフモデル　　　　1.4.2.4　条件付き確率場　　　1.4.3　ディープラーニングを用いた自然言語処理　　　　1.4.3.1　リカレントニューラルネットワーク　　　　1.4.3.2　LSTM　　　　1.4.3.3　畳み込みニューラルネットワーク　　　　1.4.3.4　Transformer　　　　1.4.3.5　オートエンコーダ　　　1.4.4　ディープラーニングがまだ銀の弾丸でない理由　　1.5　ケーススタディ：会話エージェント　　1.6　まとめ

　2章　NLPのパイプライン
　　2.1　データ収集　　2.2　テキストの抽出とクリーニング　　　2.2.1　HTMLの解析とクリーニング　　　2.2.2　Unicodeの正規化　　　2.2.3　スペル修正　　　2.2.4　システム固有の誤り訂正　　2.3　前処理　　　2.3.1　準備　　　　2.3.1.1　文の分割　　　　2.3.1.2　単語への分割　　　2.3.2　よく使う前処理　　　　2.3.2.1　ステミングと見出し語化　　　2.3.3　その他の前処理　　　　2.3.3.1　テキストの正規化　　　　2.3.3.2　言語検出　　　　2.3.3.3　コードミキシングと翻字　　　2.3.4　高度な前処理　　2.4　特徴エンジニアリング　　　2.4.1　古典的なNLPと機械学習のパイプライン　　　2.4.2　ディープラーニングのパイプライン　　2.5　モデリング　　　2.5.1　シンプルなヒューリスティックから始める　　　2.5.2　モデルの構築　　　2.5.3　モデルの性能改善　　2.6　評価　　　2.6.1　内省的評価　　　2.6.2　外省的評価　　2.7　モデリング後のフェーズ　　　2.7.1　デプロイ　　　2.7.2　監視　　　2.7.3　モデルの更新　　2.8　英語以外でのアプローチ　　2.9　ケーススタディ　　2.10　まとめ
　3章　テキストの表現
　　3.1　ベクトル空間モデル　　3.2　ベクトル化の基本的な考え方　　　3.2.1　One-hotエンコーディング　　　3.2.2　Bag of Words　　　3.2.3　Bag of N-grams　　　3.2.4　TF-IDF　　3.3　分散表現　　　3.3.1　単語埋め込み　　　　3.3.1.1　事前学習済み単語埋め込み　　　　3.3.1.2　単語埋め込みの学習　　　　　CBOW　　　　　SkipGram　　　3.3.2　埋め込みの組み合わせ　　3.4　文書の分散表現　　3.5　普遍的なテキスト表現　　3.6　埋め込みの可視化　　3.7　手動で設計した特徴表現　　3.8　まとめ
第Ⅱ部　必須事項
　4章　テキスト分類
　　4.1　アプリケーション　　4.2　テキスト分類システム構築のためのパイプライン　　　4.2.1　テキスト分類パイプラインを使わないシンプルな分類器　　　4.2.2　既存のテキスト分類APIの利用　　4.3　1つのパイプラインに複数の分類器　　　4.3.1　ナイーブベイズ分類器　　　4.3.2　ロジスティック回帰　　　4.3.3　サポートベクトルマシン　　4.4　テキスト分類におけるニューラル埋め込みの利用　　　4.4.1　単語埋め込み　　　4.4.2　サブワードの埋め込みとfastText　　　4.4.3　文書埋め込み　　4.5　ディープラーニングを用いたテキスト分類　　　4.5.1　CNNによるテキスト分類　　　4.5.2　LSTMによるテキスト分類　　　4.5.3　大規模な事前学習済み言語モデルを用いたテキスト分類　　4.6　テキスト分類モデルの解釈　　　4.6.1　Limeを用いた分類器の予測の説明　　4.7　データが限られた場合の学習方法とドメイン適応　　　4.7.1　学習データが存在しない場合　　　4.7.2　学習データが少ない場合：アクティブラーニングとドメイン適応　　4.8　ケーススタディ：会社のチケット管理　　4.9　実践的なアドバイス　　4.10　まとめ
　5章　情報抽出
　　5.1　情報抽出のアプリケーション　　5.2　情報抽出タスク　　5.3　情報抽出の一般的なパイプライン　　5.4　キーフレーズ抽出　　　5.4.1　キーフレーズ抽出の導入　　　5.4.2　実践的なアドバイス　　5.5　固有表現認識　　　5.5.1　固有表現認識器の構築　　　5.5.2　既存のライブラリを利用した固有表現認識　　　5.5.3　アクティブラーニングを用いた固有表現認識　　　5.5.4　実践的なアドバイス　　5.6　固有表現の曖昧性解消とエンティティリンキング　　　5.6.1　Azure APIを用いたエンティティリンキング　　5.7　関係抽出　　　5.7.1　関係抽出へのアプローチ　　　5.7.2　Watson APIを用いた関係抽出　　5.8　高度な情報抽出タスク　　　5.8.1　時間情報の抽出　　　5.8.2　イベント抽出　　　5.8.3　テンプレートフィリング　　5.9　ケーススタディ　　5.10　まとめ
　6章　チャットボット
　　6.1　アプリケーション　　　6.1.1　シンプルなFAQボット　　6.2　チャットボットの分類法　　　6.2.1　タスク指向の対話　　　6.2.2　雑談　　6.3　対話システム構築のためのパイプライン　　6.4　対話システムの詳細　　　6.4.1　ピザ屋ボット　　　　6.4.1.1　Dialogflowエージェントの構築　　　　6.4.1.2　エージェントのテスト　　6.5　対話システムのコンポーネントの詳細　　　6.5.1　対話行為の分類　　　6.5.2　スロットの識別　　　6.5.3　応答生成　　　6.5.4　対話タスクの実装例　　　　6.5.4.1　データセット　　　　6.5.4.2　対話行為の予測　　　　　データセットの読み込み　　　　　モデル　　　　6.5.4.3　スロットの識別　　　　　データセットの読み込み　　　　　モデル　　6.6　その他の対話パイプライン　　　6.6.1　エンドツーエンドなアプローチ　　　6.6.2　対話生成のための深層強化学習　　　6.6.3　Human-in-the-Loop　　6.7　Rasa NLU　　6.8　ケーススタディ：レシピ推薦　　　6.8.1　既存のフレームワークの活用　　　6.8.2　オープンエンドの生成型チャットボット　　6.9　まとめ
　7章　その他のトピック
　　7.1　情報検索　　　7.1.1　検索エンジンの構成要素　　　7.1.2　典型的なエンタープライズ検索におけるパイプラインの例　　　7.1.3　検索エンジンの設定例　　　7.1.4　ケーススタディ：ブックストア検索　　7.2　トピックモデル　　　7.2.1　トピックモデルの学習例　　　7.2.2　次のステップ　　7.3　テキスト要約　　　7.3.1　要約のユースケース　　　7.3.2　要約の実装例　　　7.3.3　実践的なアドバイス　　7.4　テキストデータのための推薦システム　　　7.4.1　書籍推薦システムの作成例　　　7.4.2　実践的なアドバイス　　7.5　機械翻訳　　　7.5.1　機械翻訳APIの利用例　　　7.5.2　実践的なアドバイス　　7.6　質問応答システム　　　7.6.1　独自の質問応答システムの開発　　　7.6.2　より深い回答を探して　　7.7　まとめ
第Ⅲ部　応用
　8章　ソーシャルメディア
　　8.1　アプリケーション　　8.2　ソーシャルメディアならではの難しさ　　8.3　ソーシャルデータに対するNLP　　　8.3.1　ワードクラウド　　　8.3.2　ソーシャルテキスト用のトークナイザー　　　8.3.3　トレンドトピック　　　8.3.4　Twitterのセンチメントを理解する　　　8.3.5　ソーシャルテキストの前処理　　　　8.3.5.1　マークアップ要素の除去　　　　8.3.5.2　非テキストデータの取り扱い　　　　8.3.5.3　アポストロフィの扱い　　　　8.3.5.4　絵文字の取り扱い　　　　8.3.5.5　結合された単語　　　　8.3.5.6　URLの除去　　　　8.3.5.7　非標準的なスペル　　　8.3.6　ソーシャルテキスト用のテキスト表現　　　8.3.7　ソーシャルメディア上でのカスタマーサポート　　8.4　ミームとフェイクニュース　　　8.4.1　ミームの識別　　　8.4.2　フェイクニュース　　8.5　まとめ
　9章　Eコマースと小売
　　9.1　Eコマースのカタログ　　　9.1.1　レビュー分析　　　9.1.2　商品の検索　　　9.1.3　商品の推薦　　9.2　Eコマースにおける検索　　9.3　Eコマースカタログの構築　　　9.3.1　属性抽出　　　　9.3.1.1　直接的な属性抽出　　　　9.3.1.2　間接的な属性抽出　　　9.3.2　商品のカテゴリ化とタクソノミー　　　9.3.3　商品のエンリッチメント　　　9.3.4　商品の重複除去とマッチング　　　　9.3.4.1　属性マッチ　　　　9.3.4.2　タイトルマッチ　　　　9.3.4.3　画像マッチ　　9.4　レビュー分析　　　9.4.1　センチメント分析　　　9.4.2　アスペクトレベルのセンチメント分析　　　　9.4.2.1　教師ありのアプローチ　　　　9.4.2.2　教師なしのアプローチ　　　9.4.3　総合評価とアスペクトの結びつけ　　　9.4.4　アスペクトの理解　　9.5　Eコマースにおける推薦システム　　　9.5.1　ケーススタディ：代替財と補完財　　　　9.5.1.1　レビューからの潜在属性抽出　　　　9.5.1.2　商品のリンキング　　9.6　まとめ
　10章　医療、金融、そして法律
　　10.1　医療　　　10.1.1　健康と診療記録　　　10.1.2　患者の優先順位付けと請求　　　10.1.3　医薬品安全性監視　　　10.1.4　臨床意思決定支援システム　　　10.1.5　ヘルスアシスタント　　　10.1.6　電子健康記録　　　　10.1.6.1　HARVEST：縦断的なレポートの把握　　　　10.1.6.2　健康に関する質問応答　　　　10.1.6.3　アウトカムの予測とベストプラクティス　　　10.1.7　メンタルヘルスの監視　　　10.1.8　医療情報の抽出と分析　　10.2　金融と法律　　　10.2.1　金融におけるNLPのアプリケーション　　　　10.2.1.1　金融センチメント　　　　10.2.1.2　リスクアセスメント　　　　10.2.1.3　会計と監査　　　10.2.2　NLPと法的景観　　　　10.2.2.1　LexNLPを使った法律分野の固有表現認識　　10.3　まとめ
第Ⅳ部　総括
　11章　エンドツーエンドのNLPプロセス
　　11.1　パイプライン再訪：NLPソフトウェアのデプロイ　　　11.1.1　シナリオの例　　11.2　成熟したシステムの構築と保守　　　11.2.1　より優れた特徴の探索　　　11.2.2　現行モデルの反復的な改善　　　11.2.3　コードとモデルの再現性　　　11.2.4　トラブルシューティングと解釈可能性　　　11.2.5　監視　　　11.2.6　技術的負債の最小化　　　11.2.7　機械学習プロセスの自動化　　　　11.2.7.1　auto-sklearn　　　　11.2.7.2　Google Cloud AutoMLとその他の技術　　11.3　データサイエンスのプロセス　　　11.3.1　KDDプロセス　　　11.3.2　MicrosoftのTeam Data Science Process　　11.4　AIプロジェクトを成功させる方法　　　11.4.1　チーム　　　11.4.2　正しい問題と正しい期待　　　11.4.3　データとタイミング　　　11.4.4　優れたプロセス　　　11.4.5　その他の観点　　11.5　機械学習の未来　　11.6　おわりに
　付録A　spaCyを使った日本語処理
　　A.1　はじめに　　A.2　インストール　　A.3　spaCyの基本的な概念　　A.4　基本的なNLPタスクの実行方法　　　A.4.1　トークン化　　　A.4.2　品詞タグ付け　　　A.4.3　依存構造解析　　　A.4.4　固有表現認識　　A.5　ルールベースの処理　　　A.5.1　Matcher　　　A.5.2　PhraseMatcher　　　A.5.3　EntityRuler　　　A.5.4　DependencyMatcher　　A.6　spaCy Projectsを用いたワークフローの作成　　　A.6.1　プロジェクトのクローン　　　A.6.2　データの取得　　　A.6.3　モデルのダウンロード　　　A.6.4　データの前処理　　　A.6.5　設定ファイルの作成　　　A.6.6　モデルの学習　　　A.6.7　モデルの評価　　　A.6.8　モデルの可視化　　A.7　まとめ　　A.8　参考文献
　著者紹介
　奥付

Content preview from 実践自然言語処理 ―実世界NLPアプリケーション開発のベストプラクティス

●著者紹介

Sowmya Vajjala（ソウミャ・ヴァジュラ）

ドイツのテュービンゲン大学で計算言語学の博士号を取得。現在、カナダ最大の連邦研究開発組織であるカナダ国立研究機構で研究責任者として働いている。過去の職務経歴は、学会（米国アイオワ州立大学の教員）と産業界（Microsoft ResearchおよびThe Globe and Mail）の両方に及ぶ。

Bodhisattwa Majumder（ボーディサットヴァ・マジュンダ）

カリフォルニア大学サンディエゴ校の自然言語処理・機械学習の博士号取得候補者。それ以前は、インド工科大学カラグプール校で学び、最優秀の成績で卒業。Google AI ResearchとMicrosoft Researchでの機械学習研究の実施経験があり、大規模な自然言語処理システムを構築して、数百万人のユーザーにサービスを提供する製品を開発した。現在、2019年から2020年のAmazon Alexa Prizeで大学チームを率いている。

Anuj Gupta（アヌージ・グプタ）

フォーチュン100企業および新興企業のシニアリーダーとして自然言語処理および機械学習システムを構築した経験がある。キャリアの中で、複数の機械学習チームを育てて率いてきた。インド工科大学デリー校とインド情報技術大学ハイデラバード校でコンピュータサイエンスを研究。現在は、Vahan社の機械学習とデータサイエンスの責任者。父であり夫でもある。

Harshit Surana（ハーシット・スラーナ）

DeepFlux IncのCTO。創設者およびアドバイザーとして、シリコンバレーの新興企業で機械学習システムとエンジニアリングパイプラインを構築およびスケールしてきた。カーネギーメロン大学でコンピュータサイエンスを学び、MITメディアラボで一般常識を持つAIを研究。自然言語処理での研究は、200を超える引用がある。 ...

Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Read now

Unlock full access

More than 5,000 organizations count on O’Reilly

O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.

Julian F.

Head of Cybersecurity

I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.

Addison B.

Field Engineer

I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.

Amir M.

Data Platform Tech Lead

I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.

Mark W.

Embedded Software Engineer

実践 bashによるサイバーセキュリティ対策 ―セキュリティ技術者のためのシェルスクリプト活用術

Publisher Resources

ISBN: 9784873119724Other

Cloud Computing

Data Engineering

Data Science

AI & ML

Programming Languages

Software Architecture

IT/Ops

Security

Design

Business

Soft Skills