NTTデータ 金融イノベーション本部 山本 英生
NTTデータに新卒で入社、金融機関向けのシステム開発に従事した後、メガバンクのITグランドデザイン策定プロジェクトに参画を機にコンサルタントとしてのキャリアをスタート。金融機関のIT戦略、テクノロジー戦略、テクノロジー起点の事業創造などを主なテーマとしてとりあつかう。情報発信も積極的に実施しており、「Web3と自律分散型社会が描く銀行の未来」(金融財政事情研究会)などの著書や雑誌への寄稿も多数。
生成AIの金融機関への本番導入が約5割に達する中、「事前にルールを決めれば終わり」という従来型のガバナンスは、限界を迎えつつある。生成のたびに異なる出力を返すAIを適切に制御するには、あらかじめ定めたルールに従わせるだけでなく、運用中の挙動をリアルタイムで監視し、必要に応じて補正する「ウォッチドッグ型」の管理へ移行しなければならない。本記事では、入力、処理、出力、運用の各段階でリスクを抑える「多層的なガードレール」の設計や、人間とAIの責任分界点など、金融機関が早急に検討すべき5つの論点を整理する。さらに、AIエージェント同士が自律的に取引を行う「エージェンティックコマース」が金融市場にもたらすリスクを明らかにし、それに対応するため、ガバナンスの仕組みそのものにAIを組み込む必要性を展望する