なぜ今、金融庁は「AI新ルール」を出したのか？

　AIディスカッションペーパーは、銀行、証券、保険など金融業界におけるAI活用の方向性について官民で目線合わせを進めるため主要な論点を整理した資料です。

　金融庁は2025年3月に「第1.0版」を発表しました。これは、金融機関でのAI利用の実態調査を踏まえ、AI導入にあたって必要となるデータ整備やリスク管理、ガバナンスのあり方について、その時点で重要と考えられるポイントをまとめたものです。

　その後、同年6月から12月にかけて、金融庁は事業者と意見交換を行う「官民AIフォーラム」を複数回開催しました。このフォーラムでは、顧客向けサービスにAIを導入する際、AIを想定せずに作られた既存の法制度との整合性について、行政としての考え方を明確にしてほしいという声が多く上がりました。


　こうした議論を踏まえて、金融庁がこのたび公表した「1.1版」。基本的な構成については「1.0版」を引き継ぎつつ、（1）顧客向けサービスを念頭としたリスク低減の取り組み事例、（2）諸法令・規制の考え方、（3）AI利活用の実践──この3つの点にフォーカスした記載が加えられています。ここからは、それぞれについて詳しく見ていきましょう。

改訂版の論点（1）：顧客向けサービスのリスク低減の事例

　AI官民フォーラムでは、一部の事業者から、生成AIの先進的な事例が紹介されました。たとえば、コールセンターでの一部顧客対応や営業支援のように、顧客と間接的にやり取りするシステムに、生成AIを組み込んでいるケースもあります。また、顧客が住所変更手続きを行う際に、生成AIを組み合わせたアバターが対応するサービスを始めたという例も取り上げられました。


　こうした事例を踏まえ、金融庁は改定版で「顧客への資産運用に関する相談対応やコンサルティングなど」を含め、「より金融サービスの本業に近い領域で生成AIを直接顧客向けに活用するような高度なサービスを提供する未来も展望される」との認識を示しています。

　その上で改訂版では、顧客向けサービスにおけるリスクを抑えるための具体的な対応策として、いくつかの取り組み事例を紹介しています。具体的には、システムプロンプトやRAG（検索拡張生成）を活用して回答内容をコントロールする方法や、より高性能なLLM（大規模言語モデル）の選定、ファインチューニングなどです。

　また、投資勧誘に際して「必ず儲かる」といった断定的な判断を示したり、コンプライアンス上、不適切な回答を行ったりといった事態を防ぐため、「回答内容にフィルタリングを設けるなどの重層的なガードレールを設定する」といった検討も進められているといいます。

　サービス設計の観点では、特に導入初期において、AIが対応するサービスと人間が対応するサービスを利用者が選べるようにすることや、まずは事務手続きなど比較的リスクの低い領域からAIの活用を始め、知見を蓄積しながら金融取引などの中核業務へと段階的に適用範囲を広げていくアプローチが示されています。その上で、「こうした対策が適切に機能しているかについて、リリース前に十分なテストと検証を行うことが重要である」と強調しています。

　顧客への説明・注意喚起や、運用状況の記録については、それぞれ以下のような実践例や検討例を含む対応の選択肢を紹介しています。



　その上で、ガバナンスの観点では、AIの用途などに応じたリスクベースのアプローチの重要性を指摘。「AIのように技術進展が著しく不確実性が高い領域にあっては、事前にルールを設定することは困難」としつつ、達成すべきゴールを明確化した上で、「ライフサイクルを通じてリスクマネジメントを行うアジャイルなガバナンスが必要」と記載されています。 【次ページ】改訂版ポイント（2）：法制度との整合性は？ AIと個人情報の関係は？