林建甫氏コラム：AIの「もっともらしい嘘」をどう見抜き、解決するか | 林建甫

最先端の生成AIシステムであっても、存在しない機能を捏造したり、架空のソースを引用したり、図表を読み間違えたりと、誤った情報を自信満々に出力してしまうことがある。最新の研究「PHARE（Pervasive Hallucination Assessment in Robust Evaluation）」によれば、こうした「ハルシネーション（幻覚）」現象は依然として解消されていないばかりか、一部の主要モデルではむしろ増加傾向にあるという。

ブルームバーグ・ローの報道によると、2025年にはAIのハルシネーションが関与した訴訟判決が世界で712件に達した。また、Googleの医療用AI「Med-PaLM 2」が、実在するかのような引用元を添えて完全に架空の医学論文を生成し、医療専門家さえも信頼できる根拠があると誤認させた事例も報告されている。

言語生成の幻覚：それは「統計」であり「真理」ではない

生成AIは近年急速に普及し、執筆支援から知識検索まで、あらゆる場面でプロフェッショナルな口調を披露している。しかし、その真面目な語り口の中に、誤りや荒唐無稽な内容が含まれていることもしばしばだ。この「自信満々に語られるデタラメ」という現象は、単なる技術的な問題にとどまらず、哲学的かつ社会的な問題でもある。それは我々の知識、真理、言語に対する理解を揺るがし、人間と機械の相互作用の境界線を再考させるものだ。

AIがデタラメを語る根本的な原因の一つは、大規模言語モデル（LLM）の「統計的性質」にある。AIは言葉の意味を真に理解しているわけではなく、膨大なテキストデータに基づく確率分布に従って、最も可能性の高い単語の並びを生成しているに過ぎない。この問題を解決するには、より強力な意味理解と推論能力を技術的に導入する必要がある。例えば、記号論理学とディープラーニングを組み合わせた「ニューロシンボリックAI」や、生成プロセスで外部の知識ベースをリアルタイムに参照する「検索拡張生成（RAG）」モデルなどがその試みだ。これらは完全にエラーを排除できるわけではないが、医療や法律といった高リスク分野において、捏造リスクを低減させる成果を上げている。

「データ＝真実」ではない

AIの知識の源泉は、既存のデータベースやテキストである。しかし、データそのものにバイアスや誤り、あるいは情報の陳腐化が含まれている可能性がある。例えば、英語圏に偏ったデータセットや、商業プラットフォームによる恣意的な情報の取捨選択、少数言語や専門分野における情報の歪みなどだ。AIが事実確認（ファクト・チェック）を経ずに回答を出力すれば、誤った情報を正当化し、それを厳粛な口調で提示することになる。（関連記事： X日本法人、AI「Grok」による違法画像生成に法的措置を示唆　アカウント永久凍結も｜関連記事をもっと読む）

この現象は「知識の限界」を浮き彫りにしている。すなわち、データは必ずしも真理ではなく、AIには真偽を判定する能力がないということだ。人間がAIの出力を読む際、批判的思考（クリティカル・シンキング）を持たなければ、その「もっともらしい」口調に容易にミスリードされてしまうだろう。

権威への期待：文脈と常識の欠如

AIの文体は専門的な論文や記述を模倣するため、厳密な構文や論理構造を用いることが多い。この「権威ある口調」は、内容が正しいに違いないという誤解を生みやすい。哲学的にはこれを「言語の権威的幻覚」と呼ぶことができるだろう。人間は、専門的に見える表現を信じやすく、その内実の妥当性を看過する傾向がある。

AIのデタラメが厄介なのは、それが理性の衣をまとっており、間違いが信憑性を帯びて見えるからだ。さらに言えば、AIには感情もなければ人間の直感もなく、その判断力は時に3歳児にも劣る場合がある。論理の連鎖に歪みが生じたり、データが不完全であったりしても、AIは自信満々に回答を生成し、結果として支離滅裂な嘘をつく。これは悪意によるものではなく、感情や常識による補正メカニズムが欠如しているためだ。

過信と不信のジレンマ

一方で、社会の反応は一様ではない。一部のユーザーはAIに対して強い懐疑心を持ち、その限界を試そうとあえて挑発的な問いを投げかけることもある。この「過度な信頼」と「過度な懐疑」の共存は、新技術に対する人間の矛盾した心理を反映している。人々はあらゆる問いに答えてくれる「知的な代理人」を渇望し、AIに過度な期待を投影する。だが同時に、AIがその期待に応えられなかった時、その誤りはことさらに目立って感じられるのだ。この期待の投影こそが、ハルシネーションの影響を増幅させ、それを単なる技術的現象から文化的現象へと押し上げているのである。

哲学的考察：真理、言語、そして規範

AIは膨大な情報を処理できる反面、文脈理解や常識的な推論においては依然として不十分さが目立つ。AIは人間の生活経験を真に理解しているわけではなく、複雑な状況下で柔軟な判断を下すこともできない。例えば、暗黙の文化的背景や倫理的判断が求められる問いに対し、AIは「表面的には合理的だが、本質的には荒唐無稽」な回答を返すことがよくある。この限界は技術の本質に起因している。AIはあくまでパターンマッチングのツールであり、常識を備えた存在ではないからだ。AIがもっともらしいデタラメを語るのは、まさにこの「文脈と常識の欠如」がもたらした直接的な帰結である。

注目すべきは、人間の専門家であっても厳格な口調で間違いを犯すことがある点だ。医師や学者、評論家の誤った発言は、その専門家という肩書きゆえに過度に信頼されがちである。つまり、AIのデタラメは全く異質な現象というわけではなく、ある意味で「人間の言語の脆さ」を拡張したものと言える。この比較は、我々に重要な教訓を与える。真理の判断は「言語の形式（もっともらしさ）」に依存してはならず、批判的思考（クリティカル・シンキング）と実証的な検証に回帰しなければならないということだ。

社会的信頼の崩壊を防ぐために

AIのデタラメを放置すれば、社会的信頼の崩壊を招きかねない。したがって、制度面での責任と透明性の確立が急務となる。

第一に、企業はAI製品を提供する際、その限界とリスクを明確に表示し、ユーザーの誤解を防ぐべきだ。第二に、AIの誤りが重大な影響を与えた場合、企業が相応の責任を負う「説明責任（アカウンタビリティ）」のメカニズムを構築する必要がある。加えて、政府や国際機関も公共の利益を守るための規範を策定すべきであり、ユーザーコミュニティやオープンソースコミュニティも、相互監視や経験共有を通じて自律的な役割を果たすことができる。メディアや教育機関は、AIを「準専門家」として祀り上げるのではなく、その限界を啓蒙する役割を担うべきだ。

多層的な解決策と批判的思考

AIが「自信満々に嘘をつく」という問題は、技術的課題であると同時に社会的課題でもある。解決には、技術革新、知識ガバナンス、ユーザー教育、制度規制、そして哲学的省察といった多角的なアプローチが不可欠だ。これは特効薬のような一回限りの解決策ではなく、継続的なプロセスである。多層的な努力があって初めて、リスクを低減し、AIとの相互作用を通じて世界への理解を深めることができる。

我々は認識しなければならない。技術やデータがいかに進化しても、AIがエラーを完全に回避することは不可能だということを。だからこそ、ユーザーはAIの出力に対して常に警戒し、批判的思考を持たなければならない。教育の重点は、AIの本質を理解させることにある。AIは「権威」ではなく、あくまで「ツール」なのだ。

この教育は理想論に留まってはならない。学校教育へのAIリテラシー導入、公共メディアによるファクトチェックツールの普及、市民教育における批判的思考の強化など、制度と社会に根ざしたものであるべきだ。社会全体が批判的思考を備えて初めて、AIのデタラメによる深刻なミスリードを防ぐことができる。

結論：技術は真理の代替ではない

最後に、AIのデタラメは我々にこう思い出させる。「技術は真理の代替品ではなく、人間の思考の拡張である」と。AIが提供するのは言語的な可能性であり、知識の保証ではない。人間は制度、教育、文化の各レベルで協力し、誤りを識別し、修正し、吸収できる社会環境を築く必要がある。そのような環境こそが、AIのエラーによる害を減らすだけでなく、間違いを学習の機会へと転換させるだろう。人間が批判的思考を持ってAIと向き合い、制度的・文化的なセーフティネットを構築した時、我々は初めてAIの潜在能力を真に公共の利益へと昇華させることができるのである。

（筆者は中信金融管理学院講座教授、国立台湾大学経済学部名誉教授）

世界を、台湾から読む⇒風傳媒日本語版 X：@stormmedia_jp

中国語関連記事　　