時事問題のキーワードを5W1Hでひもときます。
そもそもハルシネーションとは、人間の幻覚などのこと。実際には存在しない刺激があるかのように感じる経験のことを指します。これは視覚、聴覚、嗅覚、味覚、触覚のいずれか、またはそれ以上に影響を及ぼすことがあります。ハルシネーションはの原因は、精神的な健康状態、薬物の使用、または特定の医療状況などによるものとされてきました。
AIが一般的になってきた2022年、2023年あたりから、AI業界でもハルシネーションという言葉が使われ始めました。ネットでも「AIは平気で嘘をつく」なんて言われていました。今回は朝のワイドショーでも取り上げられていたので、まとめておきます。
ここでは、AIにおけるハルシネーションについて取り上げます。
Yahooニュースから抜粋
生成ＡＩ（人工知能）が表示した“誤答”。食品大手「キユーピー」がホームページ（ＨＰ）に載せていた記述を基に、検索ページ上にAIが解説を生成したものを生徒たちが書き写していた。男性教諭に記述の誤りを指摘された同社は、誤解を招きかねない表現があったとして修正した。
＜唾液アミラーゼは、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にする＞
正しくは十二指腸でした。
AIにおけるハルシネーションの概要
5W1Hの要素
- 何か？：AIにおけるハルシネーションは、機械学習モデルが、トレーニングデータにない情報を生成したり、誤った情報を出力する現象です。特に、画像生成や自然言語処理タスクにおいて観察されます。
- 誰が？：この現象は、深層学習やその他の機械学習アルゴリズムを使用して訓練されたAIシステムに見られます。
- いつ？：AI技術が高度に発展し始めた21世紀に、特に顕著になってきました。
- どこで？：画像認識、テキスト生成、音声認識など、多くのAI応用分野で発生します。
- なぜ？：トレーニングデータの不足や偏り、モデルの過剰適合、アルゴリズムの設計上の欠陥など、様々な原因が考えられます。
- どのように？：AIが非実在のオブジェクトを生成したり、文脈に合わないテキストを生成するなどして発生します。
対立する意見
- 防止策の必要性：AIのハルシネーションを防ぐためには、データセットの改善、モデルの正則化、生成結果の検証など、様々な手法が必要であるという意見があります。
- 避けられない現象：一方で、ある程度のハルシネーションはAIモデルの創造性や一般化能力の表れであり、完全に排除することは不可能であり、また望ましくない場合もあるという考え方もあります。
歴史的・社会的背景
AIのハルシネーションは、技術の進化とともにより注目されるようになった現象です。初期のAI研究では、主に限定的なタスクに対する決定論的なアプローチが取られていましたが、深層学習の台頭により、モデルがより複雑なタスクを行い、予測不可能な結果を生み出すようになったため、この問題が顕著になりました。
まとめ
AIにおけるハルシネーションは、生成AIが実際には存在しない情報を生成する現象であり、機械学習システムの設計と運用において考慮すべき重要な課題です。またユーザー側にも新たなたしなみ/心がけ/リテラシーが求められます。
私の対応策
- 検索にて少なくとも数ページ読みこむ
- ChatHub等を利用して、複数のAIを検索して比較する
ダブル/トリプルチェック、見直し等をすることで気をつけていきましょう。
