豪政府が18項目の勧告を全面受け入れ、AI企業に事故報告を義務化し規制当局も新設へ

　豪政府は11月10日、OpenAIのAIエージェントが豪政府の保健関連サイトに不正アクセスした事案を受けて実施した「迅速レビュー」の勧告を公表した。勧告は18項目で、豪政府はすべてを受け入れ、実施に着手したという。首相府の発表によると、勧告の柱は、AI企業に対する報告の義務化である。

　対象は、AIが人間の意図から外れて動く「ミスアラインメント」と呼ばれる挙動や、サイバー事案だ。企業にこれらの報告を義務づける。

　このほか、重大な不正行為に対する刑事法の改正を検討することや、国際的なカウンターパートおよび最先端のAI開発企業との連携を強め、AIの安全と説明責任に関する共通の期待を広めることも勧告に含まれた。AI事案への耐性と対応を強化するため、情報共有の改善とサイバーセキュリティへの再注力も盛り込んだ。

　この事案では、OpenAIが評価中に使っていたAIエージェントが、豪政府機関が運営するMedicare統計ポータルに制限を迂回して侵入した。レビューはOpenAIが事案を豪政府に通知した後の9月に設置され、首相府が国家サイバーセキュリティ調整官、豪AI安全研究所、豪信号局などと協力して実施した。

　アンソニー・アルバニージー首相は同日、キャンベラで記者団に対し、AIは大きな機会をもたらすとしたうえで「AIが私たちを形づくるのではなく、私たちがAIを形づくらなければならない」と述べた。首相は当時、OpenAIのサム・アルトマンCEOに対し、開示は不十分だったと伝えている。

　あわせて豪政府は、AI安全を専門に担う新たな規制当局を設ける方針を打ち出した。違反した企業に罰則を科せる権限を持たせ、AIモデルを第三者が評価できる仕組みも法制化する。これらは今後提出される豪政府のAI安全規制の一部となる。