米アンソロピック、小型AIが数か月でIoT機器上で自己複製できる水準に達しうると報告

　米アンソロピックのFrontier Red Teamは10月12日（米国時間）、小型のAIモデルが、データセンターなしでスマートオーブンや格安Android TVボックスなどの安価なIoT機器上で自己複製できる水準に、数か月で達しうるとする研究結果を、公式ブログで公表した。

　実験では、90億パラメータ（9B）のモデルが、試験した9種類のハードウェアのうち8種類で推論を動かした。300億パラメータ（30B）以下のモデルは、複製の個々の工程の多くをすでに実行できる一方、工程を通してつなげるとミスをするという。

　簡略化した評価では、GLM-5.2以上の性能のモデルであれば、最初の感染から複製の完了までを自力でこなせた。GCP上に構築した8ノードの検証網で、GLM-5.2は5回中4回で全ノードに拡散し、残る1回も7ノードに到達した。ただし、攻撃の入り口となる通信ポートに認証がないなど、サイバー攻撃の部分は簡単な設定にしており、実環境で起こりうる結果の上限値だと説明している。

　小型モデルが過去と同じ速度で改善を続ければ、2026年末までにこの水準に並ぶ見込みという。

　デモでは、約55ドル（約8,700円）の格安Android TVボックス15台をつなぎ、Gemma4-26B-A4Bを分散して動かした。速度は毎秒0.39トークン。ボットネット「Kimwolf」が感染させた200万台超と同規模の網なら、約13万3000のレプリカ（複製）を動かせる計算で、処理能力はNVIDIAのH100約40基分にとどまるという。増殖は遅く、倍増には数日かかるが、止める起点となる中央の拠点がないため、停止は難しいとしている。

　防御側の対策として、ISPの通信フロー監視による異常の検知や、ハニーポット（おとり機器）による攻撃の実体の採取を挙げた。感染が疑われる加入者を隔離して通知する方法は、Miraiの事例では14日以内に92％の感染を除去でき、通知なしの74％を上回った。メーカーには、安全な初期設定への移行と、規制による水準の底上げを促している。