AIの「ハルシネーション」とは｜まちがいとの付き合い方

AIを使っていると、「ハルシネーション」という言葉を耳にすることがあります。少しむずかしそうですが、意味はシンプルです。

ハルシネーションってどんなこと？

ハルシネーションとは、AIがもっともらしいけれど事実とは違う答えを出してしまうことです。わざとうそをつくわけではなく、「ありそうな答え」を組み立てる中で起きてしまいます。

• 実在しない情報を、本当のように答える
• 数字や名前、出典をそれらしく作ってしまう

なぜ起きるの？

AIは学んだパターンから「もっともありそうな言葉」を選びます。そのため、知らないことでも空白を埋めるように答えてしまうことがあるのです。

自信のある口ぶりでも、内容が正しいとは限りません。

上手な付き合い方

1. 大事な内容は別の情報源で確かめる
2. 数字・名前・出典はとくに念入りに
3. 「これは本当？」と一歩立ち止まる

まとめ

ハルシネーションを知っておけば、こわがらずに使えます。確かめ方のコツはAIの答えは正しい？もあわせてどうぞ。