Meta AI「CoVe」

LLMのハルシネーションリスク軽減への取り組み

今週のテーマ：LLM / ハルシネーション

ChatGPTをはじめとしたLLM（大規模言語モデル）の代表的なリスクとして「ハルシネーション（幻覚）」と呼ばれるものがあります。これは、言語モデルが正確でない情報や存在しない事実をあたかも本当のように回答に織り交ぜることを言い、現状では避けて通れない問題とされています。

しかし、ハルシネーションリスクを乗り越えることができれば、生成AIにとって大きなターニングポイントとなることは間違いありません。

そこで今回は、ハルシネーションリスクを軽減する取り組みとしてMeta AIが発表した「Chain-of-Verification (CoVe) 」という手法について解説したいと思います。

💡この記事から得られる３つのナレッジ
・ハルシネーションとは
・Meta AIが開発したCoVeメソッドの概要
・CoVeメソッドの利点

論文データ：
今回のディスカッション対象の論文をご紹介します。

• タイトル：Chain-of-Verification Reduces Hallucination in Large Language Models
• 著者：Shehzaad Dhuliawala, Mojtaba Komeili, Jing Xu, Roberta Raileanu, Xian Li, Asli Celikyilmaz, Jason Weston
• 機関：Meta AI, ETH Zurich
• URL：https://doi.org/10.48550/arXiv.2309.11495

【目次】

LLMを取り巻く環境と課題

LLMのリスク

CoVe（Chain-of-Verification）メソッドの手順

CoVeメソッドの利点

まとめ

LLMを取り巻く環境と課題

近年、LLM（大規模言語モデル）の能力は飛躍的に向上しており、情報の検索からコンテンツの生成、ビジネスの意思決定に至るまで、多岐にわたる分野でその効果を発揮しています。特に、リリース後2ヶ月で1億人のアクティブユーザーを達成したChatGPTはその後も急速にユーザーベースを拡大し続けており、先日、CEOであるサム・アルトマン氏が、年間収益が13億ドル（約1,944億円）に達していることをスタッフに対して明らかにしたことが報道されました。収益の主要な要素としては、ChatGPTの有料サブスクリプションが挙げられます。昨年のOpenAIの総収益が2800万ドル（約41億円）であったことを考慮すると、今年2月にChatGPTの有料版が開始されてから、同社は急速に成長していることが確認できます。

加えて、OpenAIは今年で2回目となる公開買い付けを計画中であり、この過程で外部投資家が従業員から株式を購入する機会も提供される可能性があります。このような動きは、企業評価にプラスの影響を与えると見られており、ウォール・ストリート・ジャーナルによると、OpenAIの企業価値は800億ドル以上とも評されています。
同社の急速な成長から、ChatGPTやその他の大規模言語モデル（LLM）の有望性が浮き彫りになりました。

このようにビジネスでの活用や商業化が凄まじい速度で進む大規模言語モデルですが、その膨大な知識量と能力にもかかわらず、正確さや回答の信頼性には課題があるのが現状です。

LLMのリスク

大規模言語モデルのリスクとして代表的なのが、「ハルシネーション（幻覚）」と呼ばれるものです。これは、言語モデルが正確でない情報や存在しない事実をあたかも本当のように回答に織り交ぜることを言い、ChatGPTをはじめとした大規模言語モデルを使用する上では必ず認識しておかなければならない概念です。

ChatGPTのハルシネーションが問題となったケースは枚挙にいとまがないですが、一例として、とある有名ラジオホストがChatGPTに虚偽の情報を拡散されたとして、OpenAIを訴えた事件などがあります。

そこで、Meta AIの研究者たちは、この問題に対処する新しい方法として、Chain-of-Verification (CoVe) という手法を開発しました。

今回は、このCoVeメソッドが具体的にどのような手順で言語モデルのハルシネーションを減少させるのか、また、より正確で信頼性の高い情報を生成するのか、詳しく解説したいと思います。

　PAIoneerPRO会員に登録 ▷　
PAIoneer PRO
詳細はこちら

Already a member? ここでログイン