# AI安全性  

この2年間、AIの世界は一つの方向へと突き進んできた。より大きなモデル、より多くのGPU、より速いモデル・製品の更新サイクル、そしてより巨大なデータセンター。OpenAI、Anthropic、Google、Meta、そしてイーロン・マスク氏率いるxAIが激しく競い合い、半歩でも遅れれば、人材も顧客も資本も失いかねない。そんな競争が続いてきた。ところがここ数日......

ビジネスや理念を巡って対立してきた米AI業界の有力3氏が、先端AIが自律的に反復改良を重ね、外部システムへの無断アクセスに至る可能性など、制御不能となるリスクを前に足並みをそろえた。Anthropic最高経営責任者（CEO）のダリオ・アモデイ（Dario Amodei）氏、OpenAI CEOのサム・アルトマン（Sam Altman）氏、SpaceXAI創業......

OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理について幅広い議論を巻き起こしている。テスラお......