Google DeepMind デミス・ハサビスCEOが警鐘「AGI到来はあと数年、AI管理機関設立を」

　ハサビス氏は自身のX（旧Twitter）上で、「フロンティアAIのためのフレームワークと新時代の黎明」と題する政策マニフェストを発表した。同氏は人間のあらゆる認知機能を備えるAGIの到来を数年後と予測し、現在は技術的特異点（シンギュラリティ）のふもとに位置していると指摘した。その上で、AIのリスク管理における政府の場当たり的な介入を問題視し、事前の合意に基づく恒常的なルールの必要性を訴えた。

　具体的には、アメリカの金融業規制機構（FINRA）をモデルとした、官民パートナーシップによる独立した基準機関の設立を要求している。この機関は、サイバーセキュリティや生物学的脅威、システムの欺瞞性などを評価するため、高度なフロンティアモデルが一般に公開される前に事前審査を実施する。評価基準は技術の進化に合わせて定期的に更新し、開発企業には事前に内容を明かさない非公開の独立テストを導入する。これにより、企業側がテスト問題にだけ特化して対策する過剰適合を防止する。


　新機関の運営資金は主にAI業界から拠出する方針を示す一方、組織が巨大IT企業に支配される「規制の虜」を回避するための具体的な防衛策も提示した。理事会にはチューリング賞の受賞者やオープンソースコミュニティの代表者などを含め、過半数を独立した技術専門家で構成して中立性を担保する。さらに、外部の第三者による監査エコシステムを政府と連携して育成し、客観的かつ厳格な審査体制を構築する。

　近年、アメリカでは国家安全保障を理由とした一部のAIモデルへの輸出管理規制や、大統領令によるサイバーセキュリティ評価の義務化など、政策介入が続発している。ハサビス氏の提案は、OpenAIなどの競合他社トップからも一定の賛同を集めた。同氏は技術革新による恩恵を維持しながら破局的なリスクを回避し、国家安全保障と産業発展の両立を実現するための制度的な枠組みの構築を強く求めた。