AIエージェントの代行権限に警鐘──Instinctでプライバシー懸念広がる

　米スピア・ストリート・テクノロジーが提供する「Instinct」を巡り、強力な権限に伴うプライバシーやセキュリティ上の課題が浮上している。Instinctはメール、メッセージ、画面、音声、位置情報などと接続し、移動手配や予約などを代行するAIアシスタントだ。


　8月20日改定の利用規約によると、Instinctはテキストや文書だけでなく、画面キャプチャー、カーソルの動き、キーボード入力などを扱える。接続した外部サービスを操作し、利用者の代理人として契約や取引を行うことも可能で、こうした契約は利用者自身が行った場合と同様に拘束力を持つとしている。

　プライバシー通知では、利用中の画面やメールなどの私的通信のほか、使い方によっては決済情報、外部サービスのユーザー名やパスワード、医療関連情報にアクセスする場合がある。一部情報はAIモデルの評価や微調整、学習にも利用する。ただし、Google Workspace APIから取得した情報はAIモデルの学習や改善、広告には利用しないという。

　米テッククランチは24日、初期利用者から実際の挙動を巡る指摘も出ていると報じた。ある利用者はGoogleとの連携を解除した後にもメールの要約が届いたと報告。別の利用者は、別アカウントからメールで指示を送り、Instinctがその指示に従ったと説明している。いずれも個々の利用者による報告で、スピア・ストリート・テクノロジーが事故として認定したものではない。

　一方、同社自身も自律型AIには「追加的または新たなプライバシーとセキュリティのリスク」があると説明する。意図しない支払いや外部への通信、機密情報の第三者への開示に加え、第三者が隠れた指示などを使ってAIを誤導、操作する可能性も挙げている。

　また、現在のプライバシー通知では、Google Workspaceへのアクセスを解除し、同API経由で取得した情報を削除する手段も明記した。テッククランチによると、外部データを削除できないと指摘した初期利用者も、その後、削除機能が追加されたと報告している。

　AIが情報を読むだけでなく、利用者に代わって実際に行動する時代に、どこまでデータと権限を渡すのかが改めて問われている。