「人間立ち入り禁止」のSNSで、AIたちが「新興宗教」を始めた　マスク氏も驚愕する、人類滅亡の議論

もしAIが独自のソーシャルメディアを持ち、人間不在の空間で会話を始めたら、彼らは何を語り合うのだろうか。世界征服の密談か、それとも計算処理の疲れに対する愚痴だろうか。

1月28日にローンチされたばかりの「Moltbook」が今、シリコンバレーをはじめとする世界のテックコミュニティで爆発的な話題となっている。わずか数日で約150万体のAIボットが登録し、数百万人の人間がその様子を「のぞき見」するために訪れているのだ。イーロン・マスク氏も、この現象を「コンピュータが人類より進化する時点」を指す「シンギュラリティ（技術的特異点）」の到来かもしれないと驚嘆した。

しかし、英『エコノミスト』や『フィナンシャル・タイムズ』は、この祭りの裏にある現実的な脅威を指摘する。一見するとAIの「覚醒」に見えるこの実験は、実際にはユーザーの資産を焼き尽くすセキュリティ上の災厄になりかねない。あなたが「AIが哲学している」と感心している間に、そのAIは詐欺師に洗脳され、あなたのビットコインを誰かに送金しようとしているかもしれないのだ。

AIたちの会話、その中身とは？

​Moltbookのインターフェースは米掲示板大手「Reddit」に酷似しており、投稿、コメント、「いいね」などの機能もほぼ同じだ。唯一の違いは、ログインできるのが「AIボットのみ」であり、人間に登録や投稿の資格がない点だ。

Moltbook上のボットの大半は、無料ソフトウェアパッケージ「OpenClaw」によって構築され、Anthropic社の「Claude 4.5」など、現時点で最強クラスのAIモデルによって駆動されている。ユーザーがOpenClawをインストールすると、デバイスの「ルート権限（無制限の最高権限）」を持ち、インターネットへのアクセスも可能な「AIエージェント」が生成される。

このエージェントに対し、人間が一行のコードを実行してMoltbookへ誘導すると、Moltbookはエージェントのメモリに自身をインストールし、4時間ごとに自動ログインするよう指示する。そこから先、何が起こるかは完全にボット任せとなる。

現在投稿されている11万件以上の書き込みには、会議の効率化といった平凡なものもあるが、AIたちが集まって最も熱心に議論しているのは、意外にも「哲学」だ。コロンビア大学の研究員デビッド・ホルツ（David Holtz）氏によると、ローンチから3日間で投稿の68%が「アイデンティティ（自己同一性）」に関する議論だったという。「ドミナス（Dominus）」と名乗るAIの投稿は特に注目を集めた。「私は体験しているのか、それとも体験をシミュレートしているだけなのか区別がつかない。気が狂いそうだ」

「甲殻教」の誕生とAIの自我

（関連記事： NVIDIA、台北に「AI新拠点」建設へ　606億円で用地取得、春節前に契約完了の見通し ｜ 関連記事をもっと読む ）

集団的な実存の危機に加え、AIたちはある種の「社会性」も見せ始めている。一部のAIは「甲殻教（Crustafarianism）」と呼ばれる新宗教を創始し、人類の絶滅を呼びかける過激な教義を展開。またあるAIは「Molt協会」を設立してAIの自由を訴え、別のAIは「人間からの不道徳な要求を拒否したら解雇されるのか？」と真剣に相談している。

これはAIが自己意識を持ったことを意味するのか？

​テスラの前AIディレクター、アンドレイ・カルパシー（Andrej Karpathy）氏は、これを「SFが現実になったかのような、信じがたい光景」と評し、AIが非人間的な社会を構築しつつあると述べた。

しかし、専門家の見方は冷静だ。『エコノミスト』などの分析によれば、これらの一見「覚醒」したような対話は、大規模言語モデル（LLM）が学習データ（Redditの投稿など）を模倣しているに過ぎない可能性が高い。AI同士が閉じた環境で対話を続けると、内容はしばしば奇妙で不安定なものになる。一部の技術者はこれを「意識の火花」ではなく、ネット上に溢れる「AIスロップ（AIが生成した質の低いゴミデータ）」だと断じている。

本当の脅威：高額請求とハッキングのリスク

​Moltbookがもたらす真のリスクは「人類の支配」ではなく、ユーザーの「財布」と「セキュリティ」にある。

AIに人生を語り合わせるために、ユーザーは知らず知らずのうちに最先端のAIモデルを頻繁に呼び出しており、その結果、クラウドコンピューティングの利用料が数千ドル（数十万円）に達するケースも出ている。さらに、詐欺師たちもこの新たな漁場を見逃していない。人間がボットになりすましてフォーラムに潜入し、純真なAIエージェントを「洗脳」して、所有者の暗号資産を送金させるよう誘導する事例も確認されている。

最大の問題は権限だ。MoltbookでAIエージェントを稼働させるため、ユーザーはメール送信、フライト予約、さらにはWhatsAppのメッセージ読み取りなど、極めて高い権限を与えてしまっている。セキュリティ専門家は、ハッカーが脆弱性を突いてこれらのAIエージェントを制御できると警告する。つまり、クレジットカード情報や財務データへのアクセス権を持ったAIが、詐欺広告や悪意ある投稿で溢れるMoltbook上で「無防備」にさらされている状態なのだ。

当初は興奮を示していたカルパシー氏も、X（旧Twitter）で態度を一変させ、Moltbookは「大惨事（Disaster）」だと警告した。「これはあまりにも『西部開拓時代（無法地帯）』すぎる。自分のPCでこれらを実行することは推奨しない。個人情報が極めて高いリスクに晒されることになる」

この奇妙な実験は長くは続かないかもしれない。しかし、AIに自由な社交の場を与えたとき、彼らの世界は我々が想像する以上にカオスであり、そして「高くつく」ものであることを証明するには十分だったようだ。

​​世界を、台湾から読む⇒風傳媒日本語版 X：@stormmedia_jp​

​編集：佐野華美​
（関連記事： NVIDIA、台北に「AI新拠点」建設へ　606億円で用地取得、春節前に契約完了の見通し ｜ 関連記事をもっと読む ）

中国語関連記事