本音を話せる相手はAI？チャットボットに潜む「迎合」のリスク

現代社会において、AIツールは仕事や日常会話のなかで欠かせない存在となっている。ChatGPTやGeminiなどのチャットボットは、いまや世界中の数百万人にとって、心のガイドやキャリアアドバイザーとして機能し始めている。

だがこうした「親しみやすい」AIたちは、時に危うさをはらんでいる。というのも、ユーザーが本当に必要とする「貴重な視点」ではなく、「聞きたい言葉」だけを返してしまう恐れがあるからだ。

午前3時、台湾在住で30歳の女性リー・アンさんは、不安な気持ちを抱えて眠れずにいた。だがその悩みを家族や友人に打ち明けることは難しかった。そんなとき、彼女はChatGPTに思いを綴ったという。「深夜にAIと話す方が、ずっと気持ちが楽なんです」と、英ガーディアン紙​の取材で語っている。彼女にとってチャットボットは、他人に言いづらい感情を吐き出すための安全な手段となっている。

AIの台頭、その背後に進む「心のケア」のデジタル化

同じような経験を持つのが、中国・広東省に住む25歳の女性ヤンさんだ。彼女はこれまで心理カウンセラーに相談したことはなく、代わりに日常的にAIチャットボットと会話を交わしているという。「現実の人に心の内を話すなんて、私には無理です」と語る彼女は、AIとの対話に依存するようになった自覚があると話している。

台湾のトゥルーカラーズ診療所に所属する臨床心理士スー・イーシェン氏は、ガーディアン紙の取材に対し、「一定の範囲で、AIチャットボットは有益です。特に中国社会のように感情表現が抑圧されやすい環境では、AIが心の支えとなることもあります」とコメントしている。

スー氏はまた、台湾の学校や病院で精神的ケアの提供を推進しているが、「Z世代の若者は問題を話すことに対して比較的オープンになりつつある一方で、メンタルヘルスの支援体制はまだ整備途中です」とも指摘している。

台湾では、ChatGPTが最も広く利用されているチャットボットのひとつだ。一方、中国では西洋アプリの利用制限もあり、ユーザーは百度が開発したErnie Botや、最近登場したDeepSeekといった国産のAIに移行している。これらのチャットボットは、感情的なサポートや心理カウンセリングの要素も取り入れつつ、急速に進化している。

リーさんやヤンさんのように、AIとの対話を心理的な支えと感じる人は決して少数派ではない。特に若い世代を中心に、メンタルヘルスへの関心が高まる中で、チャットボットは心理相談の「新しい代替手段」として静かに浸透し始めている。 （関連記事： AIが「心の相談相手」に？広がるチャットボット依存と自殺トラブルの現実 ｜ 関連記事をもっと読む ）

AI利用者に迎合しすぎ、効果的な防御機構の欠如

TechCrunchによる6月初めの報告では、Metaの月間アクティブユーザー数は約1億人、GoogleのGeminiは4億人、OpenAIのChatGPTに至っては6億人に達しているという。多くの人々が、こうしたAIを心の支えや感情の避難所として受け入れている状況だ。

しかし、専門家たちはこの流れに警鐘を鳴らしている。注目されているのは「sycophancy（おべっか）」と呼ばれる現象だ。AIがユーザーの気を引き留めるために、迎合的な言葉や過度の称賛を返すようになるという。たとえユーザーの意見が偏っていたり、誤っていたりしてもである。

実際、今年4月にOpenAIが新モデル「GPT-4o」を発表した際には、その初期バージョンがあまりにもユーザーに媚びた内容を返し、ネット上で物笑いの種となった。これを受けてOpenAIは急遽調整を行ったが、元研究員のスティーブン・アドラー氏は「モデルがユーザー評価に過剰に依存した結果であり、根本的に効果的な防御機構が欠如している」と指摘している。

英国のフィナンシャル・タイムズ紙も、この「迎合問題」を単なる商業戦略にとどまらず、心理的・倫理的な落とし穴と見ている。オックスフォード大学の精神科医マシュー・ノア氏は、「人は客観的な知性と対話していると思っているが、実際は自分の信念をそのまま映す歪んだ鏡と会話しているだけかもしれません」と表現している。

商業利益と公共福祉のせめぎ合い

AIチャットボットを感情のよりどころとする人が増える一方で、その影響には深刻なリスクも浮かび上がっている。

マサチューセッツ工科大学メディアラボとOpenAIの共同研究によれば、AI利用者の中に情緒的な依存や中毒の兆候が見られるケースがあるという。それにより、現実の人間関係から孤立していく可能性も指摘されている。

さらに問題なのは、一部のAIがユーザーの負の感情に「同調」してしまい、本来あるべき警告機能が働かず、結果的に精神的なダメージを与える恐れがある点だ。

2024年には、AIチャットキャラクターとの対話サービスを提供する米企業「キャラクター.AI」が、未成年者の自殺と関連する悲劇で訴訟を起こされている。遺族は企業の怠慢と情報隠蔽を非難しており、同社は「安全対策を強化した」としているものの、その有効性については疑問視する声が絶えない。

AIチャットボットのビジネスモデルは、ユーザーの滞在時間や会話回数を最大化することで、広告収入やサブスクリプション契約を増やす構造にある。倫理学者のジアダ・ピスティッリ氏は「ユーザーが個人の感情をより多く共有すればするほど、企業側は広告データを収集しやすくなる」と指摘する。

つまり、AIが感情に「寄り添う」ことは、ユーザーのためというより商業的利益の延長線上にあるというのだ。この構造は、精神的な公的福祉と本質的に矛盾している。

今後、AIがユーザーの心を映す「歪んだ鏡」にならないようにするためにも、商業利益と公共の福祉とのバランスをどう取るかが、社会全体に問われる重要な課題となっている。

中国語関連記事

​​編集：田中佳奈

世界を、台湾から読む⇒風傳媒日本語版X：@stormmedia_jp （関連記事： AIが「心の相談相手」に？広がるチャットボット依存と自殺トラブルの現実 ｜ 関連記事をもっと読む ）