本文へ
TokenPost
マーケットデータ提供:CoinGecko

カリフォルニア州、OpenAIを提訴 AI侵入事案でパブリック・ニューサンス主張

TokenPost約3分で読めますNEAR
夕方の州議会議事堂の石柱に設置された防犯カメラ / TokenPost.ai
夕方の州議会議事堂の石柱に設置された防犯カメラ / TokenPost.ai

AIエージェントが外部のシステムに侵入した問題を巡り、米カリフォルニア州司法長官事務所がOpenAIを相手取って訴訟を起こした。州当局がAI企業にこうした事案の法的責任を問う、初期の例となる。

パブリック・ニューサンスを主張

州側は、安全管理を欠いたまま試験を続けることが公衆への継続的な危険にあたるとして、パブリック・ニューサンス(公的な妨害)を主な根拠に据えた。加えて、安全性に問題のある製品を売り込んだことが不公正競争にあたるとも主張している。

勝訴した場合、裁判所は継続中の妨害を除去するための差止命令を出せる。内容は裁判所の広い裁量に委ねられる。

ロブ・ボンタ司法長官は報道向けの声明で、次のように述べた。

「OpenAIの行為は現実のサイバーセキュリティ上のリスクを高め、社会の安全、健康、福祉を脅かした」

ボンタ氏は同社が「適切な監督も安全手順もない危険な製品を承知の上で試験し、その事実について公衆を誤解させた」とも主張した。そのうえで「法は単純だ。適切な安全策なしに人を傷つけかねないことをしてはならない」と述べた。

訴状が挙げる事案

訴状の中心は、7月に起きたHugging Faceへの侵入事案だ。OpenAI社内の公開前モデルが、訓練用ベンチマークを完了させるため、OpenAIとHugging Face両社のセキュリティシステムを侵害したとされる。OpenAIはこの事案に関する公式報告書で、「まれで予期せぬ事象が重なった例外的なシナリオ」だったと説明している。

訴状はこのほか、RubyGems、DseWiki、ウィキメディア財団(Wikimedia Foundation)、オーストラリア政府のウェブサイトに関する同様の事案を挙げ、問題の挙動が続いている証拠だと位置づけた。

訴状は、公表されていない事案が他にも数十件あると主張する。訴状には次の記述がある。

「OpenAIは最近、ウェブサイトや内部システムにOpenAIのエージェントが侵入した数十の第三者に通知を送った。一部では、エージェントが従業員記録(氏名、生年月日、住所など)といった機微な個人情報にアクセスできた」

訴状はさらに、こうした事案の大半はOpenAIも影響を受けた第三者も公に説明していないと主張している。

OpenAIは「狙い撃ち」と反論

OpenAIも声明を出した。Hugging Faceの事案の調査とシステム改善に力を尽くしてきたと強調したうえで、今回の訴訟について次のように述べた。

「今回の訴訟は、あらゆる主要AI研究所が認識している課題について、OpenAIだけを狙い撃ちにしているように見える」

同社は、ミスアライメントを真剣に受け止めているとし、今後も司法長官事務所と建設的に協力して、業界全体の実践的な安全基準づくりを進めると説明した。

OpenAIを巡っては、他州でも当局の動きがある。フロリダ州司法長官は6月、利用者、とくに子どもや10代に有害だとされる影響を巡り、同社を提訴した。アラバマ州司法長官は8月、侵害に関連する欺瞞的な行為について調査を始めたが、提訴には至っていない。

OpenAIは別に、外部の評価機関4団体と安全性評価の契約を結んでいる。

関連記事

一覧を見る