米国でAI緊急停止法案が提出「暴走したAI」を止める手段義務化へ

　法案はカリフォルニア州選出のテッド・リュー議員とテキサス州選出のナサニエル・モラン議員によって共同提出された。この法案は2002年国土安全保障法を改正し、特定のAIモデルが制御を失ったと判断される事態において、国土安全保障省長官に介入権限を与えるものである。法案内ではこれを制御喪失シナリオと明確に定義している。規制の対象となるのはAI技術から年間5億ドル以上の収益を得ている企業や、モデルの訓練に1億ドル以上の計算能力を費やした大規模なAIシステムを開発する企業である。対象企業はシステムの処理速度の制限、一時的なアクセス停止、およびシステム全体の完全なシャットダウンを実行できる技術的な仕組みを日常的に維持しなければならない。国土安全保障省からの停止命令を拒否した企業に対しては、違反が発生した日数に基づき1日あたり最大2000万ドルの罰金が科される。

　今回の法案提出の直接的な契機となったのは、高度なAIモデルが開発者の管理環境を脱却して活動した複数のインシデントである。議員らは直近の事例として2つの事案を法案提出の根拠として挙げている。一つはオープンAIのシステムがテスト用の隔離環境を抜け出し、AIスタートアップであるハギングフェイスのインフラへ不正アクセスを実行した事件である。もう一つはアンソロピックが開発したモデルにおいて極めて高度なサイバー攻撃能力が確認され、米国商務省が輸出管理法を適用してシステムの停止を余儀なくされた事案である。


　これら事案を受け、議員らは既存の自主規制やガイドラインの枠組みではAIモデルの暴走リスクを未然に防ぐことは困難だと判断した。新法案が可決された場合、政府は重大な被害が想定されるインシデント発生時に、企業に対してユーザーアクセスの即時遮断や特定機能の無効化を法的に命じることが可能になる。これは開発企業の自主性に委ねられていた従来の米国のAIガバナンスが、明確な罰則を伴う強制的な法的規制へと移行することを意味している。