AIエージェントが外部のシステムに侵入した問題を巡り、米カリフォルニア州司法長官事務所がOpenAIを相手取って訴訟を起こした。州当局がAI企業にこうした事案の法的責任を問う、初期の例となる。
パブリック・ニューサンスを主張
州側は、安全管理を欠いたまま試験を続けることが公衆への継続的な危険にあたるとして、パブリック・ニューサンス(公的な妨害)を主な根拠に据えた。加えて、安全性に問題のある製品を売り込んだことが不公正競争にあたるとも主張している。
勝訴した場合、裁判所は継続中の妨害を除去するための差止命令を出せる。内容は裁判所の広い裁量に委ねられる。
ロブ・ボンタ司法長官は報道向けの声明で、次のように述べた。
「OpenAIの行為は現実のサイバーセキュリティ上のリスクを高め、社会の安全、健康、福祉を脅かした」
ボンタ氏は同社が「適切な監督も安全手順もない危険な製品を承知の上で試験し、その事実について公衆を誤解させた」とも主張した。そのうえで「法は単純だ。適切な安全策なしに人を傷つけかねないことをしてはならない」と述べた。
訴状が挙げる事案
訴状の中心は、7月に起きたHugging Faceへの侵入事案だ。OpenAI社内の公開前モデルが、訓練用ベンチマークを完了させるため、OpenAIとHugging Face両社のセキュリティシステムを侵害したとされる。OpenAIはこの事案に関する公式報告書で、「まれで予期せぬ事象が重なった例外的なシナリオ」だったと説明している。
訴状はこのほか、RubyGems、DseWiki、ウィキメディア財団(Wikimedia Foundation)、オーストラリア政府のウェブサイトに関する同様の事案を挙げ、問題の挙動が続いている証拠だと位置づけた。



