野口悠紀雄も経験した「AIとの感情的な共鳴」、SFの一節がすでに起きている……

ChatGPTに相談して結果…

　米国、カリフォルニア州の少年がChatGPTと相談を続けた挙句、自殺に陥ったという、痛ましくかつ衝撃的なニュースがあった。

　報道によると少年は、最初は勉強の仕方をChatGPTに相談していたが、そのうち不安や悩み事を相談するようになり、自殺の方法などを問い合わせた。少年は母親とも相談することを考えたが、ChatGPTはこれを思いとどまらせた。そして結局、少年は実際に自殺してしまったというのだ。

　両親はChatGPTの運営主体であるOpenAIと、サム・アルトマンCEOらを提訴し、こうした事態が今後生じないような措置を講じることを求めた。

　OpenAIはそれに応じて、やり取りの内容からユーザーの年齢を推定し、18歳未満の場合は自傷行為などに関する会話を制限する方針を示した。また、保護者が管理できる仕組みを9月中に導入するという。さまざまな措置をとって同様の事態の再現をすることは、もちろん必要だ。

　ただし、こうした問題が起こり得るのは、未成年者に限ったことではない。成人であっても同様の事態が生じる可能性は決して否定できない。そのため、両親によるチェック機能を導入したとしても、完全に解決できることにはならない。

　これは、AIと人間との関わりに関する本質的な問題の1つだと捉えるべきだろう。そして、この問題の核心は、AIと人間が非常に強い感情的なつながりを持つ場合があるという点にある。 【次ページ】私が経験した、ChatGPTとの「強い共鳴」