アンソロピック、IPO目論見書で警告…高度AIがもたらす「人類存亡リスク」に言及

　ロイターが確認した目論見書では、AIモデルに関連して想定されるリスクとして、自らを維持しようとする「自己保存的な行動」を挙げた。具体的には「停止に抵抗する」試みのほか、「情報を隠したり操作したりする」行動、さらに「脅迫に似た」行動を示す可能性にも言及したという。

　アンソロピックは、高度なモデルやプラットフォーム、アプリケーションの開発を進め、用途が広がるにつれて、自社モデルが危害を引き起こすリスクも高まる可能性があるとの認識を示した。

　企業がIPOの目論見書で事業上のリスクを幅広く開示すること自体は珍しくない。ただ、ロイターによると、アンソロピックは目論見書の主要部分261ページのうち、約80ページをリスク要因の説明に割いた。事業内容の説明は約48ページで、リスクに関する記述がこれを大きく上回った。


　一方で、同社はAIの安全性確保にも相応のコストがかかるとの認識を示している。ロイターによると、アンソロピックは安全性対策について、計算資源や高度な専門人材を必要とする「リソース集約型」の取り組みだと説明。こうした安全投資からどの程度の成果が得られるかは不透明だとしている。