米ベンチャーキャピタルのユニオン・スクエア・ベンチャーズ(Union Square Ventures、USV)は、AIエージェントの普及で高まるセキュリティ上の課題に対し、バグの予防や行動ログの活用など3つの投資領域を示した。対処の積み重ねでインターネットをより強くするという投資仮説だ。
USVのジェイ・ユー氏(Jay Yu)は11月12日に公開した論考『The Antifragile Internet』で、脅威への対応を通じてシステムを以前より強くする考えを「反脆弱」と表現した。これは同社の投資見解であり、提案した手法の効果が実証済みという意味ではない。
背景にはソフトウェアの脆弱性や、AIエージェントによる大量アクセスがある。PHPチームは10月21日、認証なしのリモートコード実行につながり得る脆弱性2件を公表し、修正版を公開した。同日時点でPHPが稼働していたIPアドレスは約510万、うち少なくとも1つのポートが開いていたものは約380万と推定された。この数字はPHPホストの規模を示し、脆弱性が確認された台数や侵害台数を示すものではない。
暗号資産取引所バイナンスは11月3日の初期報告で、10月29日の事件により約63億4000万ドル(約1兆130億円)相当の暗号資産が影響を受けたと発表した。報告では、侵入後の攻撃者が社内AIツールを足掛かりにした経緯を説明した。盗難全体を自律型AIエージェントが実行したとはしていない。
ウィキメディア財団は10月5日、OpenAIのエージェントによるものとみるAPIへの自動リクエストが数百万件に上り、Wikidataクエリサービスで5月に起きた部分障害に寄与した可能性があると説明した。一方、システムやデータが侵害された証拠は確認していないとしている。
USVの第1の投資軸は、問題を見つけて直すだけでなく、設計段階でバグの種類そのものを減らすことだ。安全性を重視したプログラミング言語への移行や形式検証を挙げる一方、AIを使ったコード移行が新たなバグを持ち込む可能性にも触れた。
第2は、エージェントの行動ログを集め、攻撃の検知や操作の制限に生かすことだ。USVは、ログを多く扱う企業ほど安全な製品を作れる可能性があるとみる。第3は、セキュリティを独立した製品として後から追加するのではなく、アプリや開発者向けツールに組み込むことだ。ログの蓄積が競争上の効果につながるかを含め、これらはUSVの投資仮説である。