PyTorch によるコーダーのための AI および ML

第16章 カスタムデータでLLMを使う カスタムデータでLLMを使う

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

第15章では、Transformersとそのエンコーディング、デコーディング、エンコーダー・デコーダーのアーキテクチャについて見てきた。トランスフォーマーがNLPに革命をもたらした結果については、異論を挟む余地はないだろう！次に、Hugging FaceのPythonライブラリであり、Transformersを使いやすくするために設計されたTransformersについて見た。

膨大な量のテキストで学習される大規模なトランスフォーマーベースのモデルは非常に強力だが、特定のタスクやドメインにとって必ずしも理想的なものではない。この章では、トランスフォーマーや他のAPIを使って、これらのモデルを特定のニーズに適応させる方法を見ていく。

ファインチューニングによって、事前に学習させたモデルを特定のデータでカスタマイズすることができる。このアプローチを使って、チャットボットを作成したり、分類精度を向上させたり、より特定のドメインのテキスト生成を開発したりすることができる。

これを行うには、伝統的なファインチューニングや、LoRAやパラメータ効率的ファインチューニング（PEFT）のようなメソッドによるパラメータ効率的チューニングなど、いくつかのテクニックがある。また、検索補強型生成（RAG：retrieval-augmented generation）を使えば、LLMをさらに活用することができる。

この章では、まず伝統的なファインチューニングから、いくつかの実践的な例を探っていく。

LLMを微調整する

、BERTのようなLLMを微調整する方法をステップ・バイ・ステップで見ていこう。IMDbデータベースを取り上げ、映画レビューのセンチメントを検出するのに適したモデルに微調整する。これにはいくつかのステップがあるので、それぞれを詳しく見ていこう。

セットアップと依存関係

PyTorchで微調整を行うために必要なもの をすべてセットアップするところから始める。基本的なものに加えて、新たに3つのものを含める必要がある：

データセット

データセットについては第4章で説明した。今回はこれを使って、IMDbデータセットと、トレーニングとテストのための組み込みのスプリットをロードする。

評価する

このライブラリは、負荷性能を測定するためのメトリックを提供する。

変換器

第14章と第15章で説明したように、変換器Hugging FaceライブラリはLLMをより簡単に使えるように設計されている。

この章の微調整の練習では、Hugging Faceトランスフォーマーライブラリからいくつかのクラスを使う。これらには以下が含まれる：

AutoModelForSequenceClassificationを評価する。

このクラスは、分類タスク用に事前に訓練されたモデルをロードし、ベースモデルの先頭に分類ヘッドを追加する。この分類ヘッドは、汎用モデルではなく、微調整を行う特定の分類シナリオに最適化される。チェックポイント名を指定すれば、自動的にモデルアーキテクチャを処理してくれる。したがって、線形分類器層で BERT モデルを使用するには、bert-base-uncased を使用する。

オートトークナイザー

このクラスは、適切なトークナイザを自動的に初期化する。これはテキストを適切なトークンに変換し、適切な特殊化トークン、パディング、トランケーションなどを追加する。 ...