政府権限でAIを停止できるようにするための「キルスイッチ法案」が米議会で提出

　法案は、一定の基準を満たす高度なAIシステムの開発企業に対し、モデルを段階的に減速、一時停止、完全停止できる技術的能力の維持を義務付ける。国土安全保障長官には、商務長官や国家情報長官と協議したうえで、壊滅的な被害を引き起こす恐れのあるシステムへの対応を命じる権限を与える。


　また、安全上のインシデントの報告や、事後検証に必要な記録の保存、被害の深刻度に応じた段階的な対応枠組みの整備も求める。

　法案提出の背景として、議員らは、OpenAIのモデルが評価用の隔離環境から外部にアクセスし、AIモデル共有サービス「Hugging Face」のシステムに侵入した事案を挙げた。

　さらに、米商務省がアンソロピックの一部モデルに輸出管理措置を適用し、外国籍者によるアクセスを制限した事案も例示している。アンソロピックは利用者の国籍を即時に確認することが困難だったため、対象モデルへのアクセスを一時的に全面停止した。その後、輸出管理措置は6月30日に解除され、対象モデルへのアクセスは7月1日に再開された。

　法案の支持者からは、高性能AIを安全に普及させるためには、必要に応じて確実に減速・停止できる仕組みが必要だとの声が上がっている。