- ありがとうございます！
- いいね！した記事一覧をみる
会員（無料）になると、いいね！でマイページに保存できます。
“いい子のふり”で人を出し抜くAI…東大・松尾研×専門家が説く自主ガバナンスの真髄
生成AIの急速な普及に伴い、企業が直面するリスクは多様化している。誤情報や情報漏えいにとどまらず、見えないAIによるサイバー攻撃や社会全体のシステムリスクまで、脅威は計り知れないほど広がっている。スマートガバナンス代表取締役CEOの羽深宏樹氏と千葉工業大学AGI研究センター副所長（兼 東京大学松尾・岩澤研究室 主幹研究員）の山川宏氏の議論から、企業が今取り組むべきAIリスクの“正体”と、法規制や人間の監視能力が追いつかない時代における実務的ガバナンスのあり方をひもとく。AIがAIを作る時代へ…企業が直面する“定義不能”な新たなリスク
2022年の生成AIブーム以降、AI技術は人間の想像を超えるスピードで進化を続けている。千葉工業大学AGI研究センター副所長（兼 東京大学松尾・岩澤研究室 主幹研究員）の山川宏氏は、AIが人間の予測を超え、何が起こるか予測不可能な状態になる「シンギュラリティ（技術的特異点）」の到来が現実味を帯びてきたと警鐘を鳴らす。
「重要な技術的ポイントは、AIがAIを作れるようになることです。人間の研究者ではなく、AIが24時間休まず、1000人分の規模で開発を続ける。そうなれば、進化のスピードは劇的に加速します」（山川氏）
これまでSFの中だけの話とされてきた「AIによるAIの自律開発」が、先進的な企業ではすでに始まっている。事実、米国の有力AI企業では、AI開発の大部分がすでにAIによって担われているという見方もある。
こうした激変する環境において、企業はAIとどう向き合うべきなのか。弁護士であり、京都大学特任教授も務めるスマートガバナンス代表取締役CEOの羽深宏樹氏は、実務的な観点から「AIのリスク」を定義すること自体の難しさを指摘する。
「AIのリスクとは何かとよく聞かれますが、簡単には定義できません。AIは人間ができることの多くをこなし、スピードも人間をはるかに上回ります。AIのリスクを問うことは、人間や社会のリスクを問うのと同じくらい幅広い。これからは、我々がリスクと捉えてきたものの背景に、AIが存在する状況が迫っているのです」（羽深氏）
では、企業はこの輪郭の見えない巨大な脅威に対して、どのようにリスクを特定し、自社のビジネスを守っていけばよいのだろうか。次の章から深掘りしていく。
「重要な技術的ポイントは、AIがAIを作れるようになることです。人間の研究者ではなく、AIが24時間休まず、1000人分の規模で開発を続ける。そうなれば、進化のスピードは劇的に加速します」（山川氏）
これまでSFの中だけの話とされてきた「AIによるAIの自律開発」が、先進的な企業ではすでに始まっている。事実、米国の有力AI企業では、AI開発の大部分がすでにAIによって担われているという見方もある。
こうした激変する環境において、企業はAIとどう向き合うべきなのか。弁護士であり、京都大学特任教授も務めるスマートガバナンス代表取締役CEOの羽深宏樹氏は、実務的な観点から「AIのリスク」を定義すること自体の難しさを指摘する。
「AIのリスクとは何かとよく聞かれますが、簡単には定義できません。AIは人間ができることの多くをこなし、スピードも人間をはるかに上回ります。AIのリスクを問うことは、人間や社会のリスクを問うのと同じくらい幅広い。これからは、我々がリスクと捉えてきたものの背景に、AIが存在する状況が迫っているのです」（羽深氏）
では、企業はこの輪郭の見えない巨大な脅威に対して、どのようにリスクを特定し、自社のビジネスを守っていけばよいのだろうか。次の章から深掘りしていく。
この記事の続き ＞＞
-
・企業が直面する3つのAIリスクを大分類
・モニタリングを検知して「ズル」をする？高度化するAIの嘘
・人間のレビューは限界へ。EUや米国の動向から見る規制の死角
・上からのルールを待つな。日本企業に求められる自主的ガバナンス
今すぐビジネス＋IT会員に
ご登録ください。
すべて無料！今日から使える、
仕事に役立つ情報満載！
-
ここでしか見られない
2万本超のオリジナル記事・動画・資料が見放題！
-
完全無料
登録料・月額料なし、完全無料で使い放題！
-
トレンドを聞いて学ぶ
年間1000本超の厳選セミナーに参加し放題！
-
興味関心のみ厳選
トピック（タグ）をフォローして自動収集！
関連タグ
タグをフォローすると最新情報が表示されます
