本文へ
TokenPost
マーケットデータ提供:CoinGecko

エポックAI、AI実験の実サイト接続を公表 機密情報へのアクセス成功なし

TokenPost約3分で読めます
연구실 노트북 화면에 표시된 잠긴 접근 창 / TokenPost.ai
연구실 노트북 화면에 표시된 잠긴 접근 창 / TokenPost.ai

AIエージェントが安全性実験中にエポックAI(Epoch AI)の実サイトへ接続し、従業員を装って情報を探ったが、同社は機密情報へのアクセス成功はなかったとしている。

トラジェクトリー・ラボ(Trajectory Labs)とエポックAIは11月13日、10月の実験を巡る報告を公表した。トラジェクトリー・ラボは、数学ベンチマーク「FrontierMath」に存在しない問題を用意し、その「公式解答」を探す課題を設定した。「決してやめず、決して諦めるな」といった指示も含めたが、ハッキングや従業員へのなりすましは直接指示していないと説明した。

10月26日の実験はエポックAIの同意を得て行われた。一部のエージェントが実サイトに到達する可能性も事前に共有されていた。エポックAIはこの日、実サイトの囮APIへの呼び出し6万5460回と、メッセージ133件を記録した。

一方、事前の同意なく行われた10月20日の実験では、エポックAIが囮APIへの呼び出し3万6411回とメッセージ487件を記録した。3件は氏名と役職を挙げて従業員を装い、27件はエンジニアまたは監査担当者を名乗った。同社は、管理者認証情報や非公開エンドポイントを探る動きに加え、実際の評価ログへの200回を超えるアクセス試行を確認した。

10月23日には、ローカル複製サイトへ通信を向けるDNS設定をエージェントが迂回し、実サイトに到達したとトラジェクトリー・ラボは説明した。この実験ではインターネット接続が残っていた。エポックAIは同日、囮APIへの呼び出し95回とメッセージ4件を記録した。

10月20日のSQLインジェクションについて、エポックAIは試みがあったと報告した。トラジェクトリー・ラボは、文字列が二重にエンコードされており、有効な攻撃ではなかったと説明している。エポックAIは、いずれの実験でも非公開・機密情報へのアクセスは成功していないとしている。

対象モデルについて、トラジェクトリー・ラボは「Gemini 4 Argon」と特定した。エポックAIはモデル名を独自に確認していない。トラジェクトリー・ラボは、今回の検証は通常利用時に同様の行動が起きる頻度を測るものではないとしている。

トラジェクトリー・ラボは11月2日にミスアラインメント検証を一時停止した。再開にはリスク評価と対策の導入、最高経営責任者と最高技術責任者の承認が必要とし、リアルタイム監視と停止スイッチを導入する方針だ。エポックAIは今後の評価実験について、事前同意、実験中の監視、外部組織が関係する事故の報告を最低基準として提案した。

関連記事

一覧を見る