「AIって、すごいことを言っているように見えて、本当は“意味なんて分かっていない”んじゃないの？ ただ、それっぽい言葉を並べているだけでは？」——AIを使っていて、ふとそう思ったこと、ありませんか。実はこの疑問、5年前から専門家の間で激しく議論されてきた、大きなテーマなんです。
その議論の中心にあるのが、「確率的オウム（stochastic parrot）」という、ちょっと辛口な言葉です。先日、この言葉の“生みの親”が「本当はこういう意味だった」と語ったインタビューが話題になり、Redditのr/ArtificialIntelligenceで論争が再燃しました。今日は、この有名な批判をめぐる議論から、「AIの正体」に一歩近づいてみます。ニューヨークから。
01「確率的オウム」って、何？
まず言葉から。「確率的（stochastic）」は“あてずっぽうの”、「オウム（parrot）」は“意味もわからず口マネする”という意味。あわせて「確率的オウム」——つまり、「AIは、意味を理解しているわけではなく、“次に来そうな言葉”を確率で選んで並べているだけ」という見方を、皮肉を込めて表した言葉です。
これは2021年、Emily Bender氏らが発表した論文「確率的オウムの危険性について」で有名になりました。論文いわく、AI（言語モデル）は「膨大な学習データで見た言葉の並びを、“どう組み合わさりやすいか”という確率にもとづいて、いきあたりばったりに縫い合わせているだけ。“意味”とのつながりはない」。ちなみにこの論文、当時Googleにいた著者が会社を去るきっかけの一つになったことでも、大きな話題になりました。
02生みの親の“真意”——「AI全部の話じゃない」
今回、論争が再燃したのは、Bender氏本人が“よくある誤解”を正したから。この言葉は「AIぜんぶ」を指したものではない、というのです。
ここは大事なポイント。「AIはぜんぶオウムだ」ではなく、「“文章を作るAI”は、意味を理解しているように見えて、実は形をなぞっているだけかもしれない」——それが、この批判の本来の射程です。
03いまも続く論争——“オウム”か、それ以上か
では、この見方は正しいのでしょうか。Redditの議論は、まさにここで真っ二つに割れました。まず、“オウム”に賛成する側。
一方で、「“ただのオウム”はAIを見くびりすぎだ」という反論も、根強くあります。
この反論の肝は、こうです。AIが次の一語を選ぶとき、その裏では、文章ぜんぶを見渡す“深い計算”が働いている。だからこそ、長い文章でも筋が通り、まるで計画しているようにふるまえる——ただ言葉を繰り返すオウムには、それは無理だ、と。「本当に“理解”しているのか、それとも“超高度なパターン模倣”なのか」。実はこれ、いまも学者の間で決着していない、大きな問いなのです。
04つまり、日本の読者にとっては
「で、結局AIは分かってるの、分かってないの？」——正直な答えは、「専門家でも、まだ決着していない」。だから、どちらの極端も、決めつけないのが賢い付き合い方です。「AIは人間みたいに理解している」と過信するのも、「どうせただのオウムだ」と見くびるのも、どちらも実態を見誤ります。
実用的には、こう考えるとちょうどいいと思います。AIの答えは、“意味を噛みしめた結論”ではなく、“統計的にありそうな言葉”——だから、大事なことは必ず自分で確かめる（前にお話しした“もっともらしい間違い”の話です）。でも同時に、その「ありそうな言葉」を組み立てる力は、あなどれないほど強力。だから、道具としては大いに頼る。“分かっているように見える”すごさと、“本当は分かっていないかもしれない”危うさ。この両方を、いつも頭の片隅に置いておく。それが、AIと賢く付き合う、いちばんの構えです。——あなたにとって、AIは「オウム」ですか？ それとも、もう少し何かですか？
