220
おわりに
おわりに
ChatGPT の登場以来、ハルシネーションや訓練データに内在する偏
見、捏造、科学的なナンセンスといった問題が注目されてきた。さら
に、人間の価値観や信念、思考方法を模倣しつつも、その外側から調
停者として機能するようなエージェントを実現するためには、多くの
技術的および社会的な課題を乗り越える必要があるだろう。話題はつ
いついシリアスな方向に偏りがちだ。
しかし、AIエージェントの核となる大規模言語モデルは、今後現在
の推論能力や生成能力を大きく超えていくことは間違いない。さらに、
私たち人間との継続的な会話や AIエージェント同士の相互作用、進化
的な学習環境、さまざまなアプリケーションや外部ハードウェアとの
連携などを通して、AIエージェントは現実世界における課題解決能力
を高めていくだろう。
このようなAI エージェントは、生命体のような自律的なシステムと
似ており、所与の環境への適応やパターンマッチングを超えた、ルー
ル自体を変革するようなオープンエンドな創造性を発揮できるかもし
れない。つまり、AIエージェントは言語理解や生成能力の向上だけで
なく、自律性や身体性、社会性を獲得することで、新しいタイプの人
工知能へと進化していく可能性を秘めている。このような進化は人間
とAIの関係性やAIの活用方法に大きな変化をもたらし、AI技術の新
たな段階を示すものになるだろう。
米国西海岸のテック業界では、近い将来におけるAGI(Artificial
GeneralIntelligence,汎用人工知能)の実現を本気で信じている技術
者が少なからずいると聞く。そうした技術者らが AI アライメントの問