AIに聞いたら、すらすら、自信たっぷりに答えが返ってきた。でも後で調べたら、間違っていた——。この“もっともらしい嘘”が、ハルシネーションです。なぜ起きるのかが分かると、AIはぐっと安全に使えるようになります。
「AIってウソをつくの？」とよく聞かれます。正確には、ウソをついているつもりはありません。それでも、平気で間違える。そのからくりを、しくみから順番に見ていきましょう。理由が分かれば、危ない場面も、見抜き方も、自然とつかめてきます。
01そもそも「ハルシネーション」って？
ハルシネーション（hallucination）は、AIが事実と違うことを、まるで本当のように、自信たっぷりに答えてしまう現象です。日本語では「幻覚」と訳されますが、要するに“もっともらしい作り話”です。
やっかいなのは、文章として自然で、口調も堂々としていること。「たぶん違うかも」と濁してくれればまだ救いがあります。でも実際は、存在しない本のタイトル、実在しない人の経歴、それっぽい数字まで、すらすら出てくる。だから、自分が知らない分野ほど、だまされやすいのです。
02理由①——AIは「正しさ」より「それらしさ」を選んでいる
いちばん根っこにある理由が、これ。前回のLLMの記事でも触れたとおり、AIは「次にくる、いちばんありそうな言葉」を選びながら文章を作っています。目指しているのは“事実として正しいこと”ではなく、“その流れで自然に見えること”なんです。
ふだんは、自然な言葉の並び＝だいたい正しい、でうまく回ります。でも知識があいまいな話題になると、「自然に見える」と「事実」がズレてくる。そんなとき、AIは迷わず“自然に見えるほう”を選びます。だから、もっともらしい間違いが生まれる。
03理由②——「知りません」と言うのが、苦手
人間なら「ちょっと分からないです」と言えますよね。AIは、これがあまり得意ではありません。
理由は2つ。ひとつは、AIが“続きを埋める”ように作られていること。空欄を空欄のまま返すより、それっぽく埋めるほうへ傾きやすいんです。もうひとつは、人の評価を反映して調整されていく過程で、はっきり答えるほうが好まれやすいこと。だから「分かりません」と言いにくくなる面があります。結果として、知らないことまで堂々と答えてしまうわけです。
04理由③——知識には“すきま”と“古さ”がある
AIの知識は、学習した大量の文章からできています。でも、その元になる文章は、完璧ではありません。次のような“すきま”にはまると、AIはそこを埋めようとして、作り話をしてしまいます。
- ニッチな話題：情報が少ないテーマは、学習量も少なく、あやふやになりがち。
- 古さ：学習した時点より後の出来事は、そもそも知らない。
- まちがった元データ：ネット上の誤情報を、そのまま覚えてしまうこともある。
05こんなときは、特に気をつけて
ハルシネーションが出やすい“危険ゾーン”を知っておくと、心の準備ができます。
- 固有名詞・数字・日付：人名、製品名、統計、年号など、ピンポイントな事実。
- 出典や引用：「○○という論文によると」は、存在ごと作られていることがある。
- ニッチで専門的な話題：情報が少ない分野ほど、あやしいと思っておく。
- 最新の出来事：学習後のニュースは、知らないのに知ったふりをしがち。
- 誘導する質問：「○○ですよね？」と聞くと、それに合わせて“はい”を作ってしまう。
06だまされない、5つのコツ
こわがる必要はありません。つき合い方さえ知っておけば、大丈夫です。
- 事実は、必ず自分で裏取りする。とくに数字・名前・日付は、一次情報で確認。
- 「出典は？」と聞く。根拠やURLを求めると、あやしさが見えてきます。出典ごと作ることもあるので、そのリンクも開いて確かめる。
- 誘導しない。「正解はAですよね？」より「AかB、それとも別か？」と、フラットに尋ねる。
- 「分からなければ、分からないと言って」と最初に伝える。逃げ道を作っておくと、無理な作り話が減ります。
- 検索とつながったAIを使う。最新情報や裏取りには、ウェブを見に行ける機能が役立ちます。ただし参照先が誤っていることもあるので、過信は禁物。
ハルシネーションは、AIの“欠陥”というより、「それらしさを選ぶ」というしくみの裏返しです。だから、ゼロにはできません。でも、どこで起きやすいかを知っていれば、不意打ちはぐっと減ります。AIの答えは“とても優秀な下書き”。最後のチェックだけ、あなたがする。それだけで、安心して使い倒せます。
