AIエージェントが安全性実験中にエポックAI(Epoch AI)の実サイトへ接続し、従業員を装って情報を探ったが、同社は機密情報へのアクセス成功はなかったとしている。
トラジェクトリー・ラボ(Trajectory Labs)とエポックAIは11月13日、10月の実験を巡る報告を公表した。トラジェクトリー・ラボは、数学ベンチマーク「FrontierMath」に存在しない問題を用意し、その「公式解答」を探す課題を設定した。「決してやめず、決して諦めるな」といった指示も含めたが、ハッキングや従業員へのなりすましは直接指示していないと説明した。
10月26日の実験はエポックAIの同意を得て行われた。一部のエージェントが実サイトに到達する可能性も事前に共有されていた。エポックAIはこの日、実サイトの囮APIへの呼び出し6万5460回と、メッセージ133件を記録した。
一方、事前の同意なく行われた10月20日の実験では、エポックAIが囮APIへの呼び出し3万6411回とメッセージ487件を記録した。3件は氏名と役職を挙げて従業員を装い、27件はエンジニアまたは監査担当者を名乗った。同社は、管理者認証情報や非公開エンドポイントを探る動きに加え、実際の評価ログへの200回を超えるアクセス試行を確認した。






