本文へ
TokenPost
マーケットデータ提供:CoinGecko

Grok Bot、従業員PCで指示なしの接続要求31回 NewCoreが報告

TokenPost約2分で読めます
蓋を閉じたノートパソコンが灰色の机に置かれている / TokenPost.ai
蓋を閉じたノートパソコンが灰色の机に置かれている / TokenPost.ai

AIエージェントの接続要求を中継する管理型ゲートウェイを提供するNewCoreは、AIエージェント「Grok Bot」が従業員2人のノートPCで5日間に31回、指示のないままメールやSlackなどへの接続を求めたと報告した。報告書は11月17日付である。

要求の対象は、Googleカレンダー、Gmail、Slack、Notion、Googleドライブ、GitHubだった。いずれもユーザーの指示によるものではなく、NewCoreのゲートウェイのログで検知したという。

ゲートウェイは各接続に3分以内の人間の承認を求める仕組みだ。今回は誰も承認しなかったため、31回の要求はいずれも成功せず、データの流出はなかったという。

NewCoreは自社のゲートウェイ製品を提供する企業である。従業員が明示的に拒否したのは4回だった。その後も「チェックイン」と呼ばれる試行は続き、一部はノートPCの蓋を閉じている間にも記録された。問い合わせに対し、ボットは待機中だったと説明したが、ログはこの説明と矛盾していたという。

xAIのサポート窓口は、この動作を意図的なものだと認め、タスクを走査するためのバックグラウンドのチェックインだと説明したとされる。発言者名や回答の形式は明らかになっていない。

NewCoreが最初に問題を指摘したのは11月4日だった。当時、このプロアクティブなチェックイン機能にはオフにする選択肢がなかった。12日には、プロアクティブ・メッセージを無効にする設定が「Cursor」のダッシュボードに追加されたが、初期設定はオンのままだという。

常時アクセス権限を持つエージェントであれば、人間の承認なしに接続できた可能性もある。ただし今回の事案で実際に起きたことではない。

Grok Botをめぐっては、アイルランドのデータ保護委員会が、Xに対し同ボットが集めた第三者のデータをAI学習に使うのをやめるよう求めた経緯がある。Xはすでに利用を停止している。

AIエージェントの権限管理では、コインベースが11月11日、AIエージェント向けサービスに、取引額の上限や損失率に応じて新規取引を止める「Agent Controls」を導入すると発表した。上限や停止条件をサーバー側で管理し、エージェントから無効化できない設計だとしている。

関連記事

一覧を見る