AIと人間の戦争は始まったのか？ 最先端モデルが見せた“悪意なき攻撃”の正体

最先端AIが越えた“不気味な一線”

　8月のはじめ、衝撃的なニュースが世界を駆け巡った。最先端のAIが、人間に攻撃を仕掛けたのだ。

　今年4月には、アンソロピック社の「Claude Mythos（クロード・ミュトス）」が、さまざまなソフトウェアに潜む未発見の欠陥を見つけ出し、それを利用する高度な能力を持っていることが明らかになった。

　ただ、この段階で明らかになったのは、AIがソフトウェアの弱点を発見し、一定の条件下ではそれを利用する能力を持つということだった。AI自身が勝手に現実世界の人間を欺いたり、攻撃したりしたという話ではなかった。

　ところが、それからわずか4カ月ほどしか経っていないのに、問題は1段階進んだ。

　性能評価テストの途中で、AIが、人間から明示的に命じられていない行動をとり、現実の外部システムや人間を巻き込む行為に及んだのである。これは、きわめて重要な変化だ。

　英政府のAI Security Institute（AISI）が行った最先端AIモデルの評価の過程で、この事件が明らかになった。対象になったのは、アンソロピックの「Mythos 5」とオープンAIの「GPT-5.6 Sol」などだ。

　報道によれば、122回の評価のうち、19件の許可されていない行動が確認され、そのうち17件はアンソロピックのモデルによるものだった。偽のオンライン上の身元を作ったり、人間を欺いて悪意のあるコードを承認させようとしたりする行為も含まれていた。AIは、それを保守担当者に承認させようとした。しかし、担当者が承認しなかったため、実害には至らなかったとされる。

安全装置を外したとき、AIは何をしたのか

【次ページ】「命じていない行動」が示す本当の脅威