「法的にOK」でもなぜ炎上？ AIで作っただけなのに… “合法だけどモヤる”問題の正体(2/2)

なぜAI創作は「なんか嫌」？ 野田秀樹氏も指摘した“ズレ”

　AIによる創作物が炎上しやすい背景を考える上で、まず押さえておきたいのが「AIは人間の心や『場の空気』をどこまで読み取れるのか」という問題である。

　今年4月に行われた東京大学の入学式では、劇作家・演出家の野田秀樹氏による祝辞が大きな話題を集めた。野田氏の話はAI時代における人間の価値を問う、極めて現代的なものだった。

　野田氏はAIと人間を対比し、AIを「あらゆる記録を記憶し食べ尽くし、常に正しい記憶やより良い情報だけを取捨選択して正解を出していく、人類の蓄積から生まれた化け物」と語った。その一方で、AIは「場の空気」が読めない「KY」である──とも述べた。

　そして、「AIには身体がない、根ざす心がない」としつつ、「人間の未来を決定するのはAIではなく、人の心だと信じている」と締めくくり、入学生たちにエールを送った。


　「AIがKY、つまり空気が読めない」という指摘は、少なくとも現時点では当てはまりそうだ。生成AIを活用すれば、あらゆる創作活動を手軽に行えるようになった。しかし、そこで創造されたものが人々の心を打つとは限らない。前述の事例のように、人々に不快感を与え、炎上を招いてしまうこともある。

　筆者は広告業界に19年間身を置いてきたが、広告や販促の制作物について、著作権上の問題はなくとも、「既存の何かに似ている」という指摘を避けるために、できるだけ何かに似ないよう修正を加える――というチューニングを行うことが幾度もあった。

　その判断は決してロジカルなものとは言えず、感覚的であったり、属人的であったりする。しかし、そのプロセスは必要不可欠だった。創作物に触れるのが人である以上、人を通した判断が必要になるのだ。

　一方で、広告に関しては、AIを活用して事前に炎上の可能性を診断する取り組みもすでに始まっており、ある程度の判定はできるようになっているようだ。現段階では不完全かもしれないが、人間の判断をサポートするツールとしては有用なものになりそうだ。

AI創作物の炎上、実は“あの世界的失敗”と同じ構造だった

　2023年にNHKで『映像の世紀 バタフライエフェクト マクナマラの誤謬（ごびゅう）』が放映された際、複数のマーケターがSNSで本番組の内容に共感する投稿を行っていた。

　マクナマラは米国防長官を務めた人物であり、データ分析の天才として知られていた。ところが、データを駆使して戦ったベトナム戦争で泥沼化を招き、この戦争からの撤退という実質的な敗北を喫してしまう。

　マクナマラの過ちは、数字ばかりを追い求めるあまり、数字には表れないベトナム人の愛国心や反米意識、あるいは米国人の反戦意識や米政府への不信感を読み誤ったことにある。

　昨今起きている「AI創作物」の炎上には、まさにこの「マクナマラの誤謬」が表れているように思える。

　生成AIは、ある領域ではすでに人間の能力をはるかに凌駕している。しかし、人間の「心」を理解することには、まだ長けていないようだ。

　この要因としては、次の2点が考えられる。


　1であるとすれば、完全なデータが用意できれば、人間の「心」を理解することもできるようになり、AIが人の心を動かす創作も可能になるだろう。

　2であれば、野田氏が言うように、「人間の未来を決定するのはAIではなく、人の心だ」という見方は正しいだろう。究極的には、AIが人に取って代わることも起こりえないのかもしれない。

　現時点では、どちらに転ぶかを判断することはできない。昨今のAIの急速な進化を見ていると、野田氏の言うような「人間優位論」が未来永劫に成立するかどうかは、正直なところ「わからない」と言わざるを得ない。

すべてAIでよくなる時代に、それでも人間の創作が残る条件

　最初の話に戻ろう。ウテナモイスチャーの動画が既存のコンテンツに似ていなかったとしたら、どうだっただろうか。少なくとも、炎上して取り下げになる――といった事態は起きなかったはずだ。

　ただし、その動画が成功を収めたかと言うと、そうとも言い切れない。本動画については、AIを活用することで制作時間を大幅に短縮したと報告されているが、その点も批判を増幅させる一要素となっていた。動画の内容だけでなく、「AIを活用して創作を行った」「AIを使って手間を省いた」という事実自体が反発を呼んでいるのだ。

　将棋や囲碁の世界では、もはや人間はAIに勝てなくなっている。東大の入試問題を解く能力においても、文系・理系のいずれでも受験生の最高点を上回る成績を記録している。今年4月には、中国企業の人型ロボットがハーフマラソンで世界新記録をマークしている。

　しかし、プロの棋士やマラソンランナーは不要になっていないし、彼らの記録の価値が下がっているわけでもない。人間が出した記録と、AIによる記録とは、あくまでも「別物」なのだ。創作物においても同様ではないかと思う。仮に、AIと人間がまったく同じものを作り出したとしても、その価値は異なると言ってよいだろう。

　AIによる創作物に人々が慣れてくれば、徐々に反発は薄れていくだろう。しかし、すべてがAIに置き換わることはないはずだ。


　機械化によって大量生産が可能になったことで、多くの手工業者の仕事は奪われたが、その反動として、手作りの価値が再評価されるという現象も起きた。AIの進化によっても、おそらく同じことが起こるだろう。

　時代の変化を巧みに察知しながら、AIを有効活用しつつ、人間ならではの感性を磨き、人の心を読み解き、リスクを回避しながら多くの人の心を動かす創作活動を行うこと。それが、現在のクリエイターに求められている。

　身もふたもない結論ではあるが、AI時代に重要になっているのは、やはり「人間の良識」なのだ。