画像提供, Getty Images

リリー・ジャマリ北米テクノロジー担当編集委員(米カリフォルニア州パロアルト)

米カリフォルニア州のロブ・ボンタ司法長官は16日、AI開発の米オープンAIが、適切な安全対策を講じずにAIモデルを開発することで、アメリカ国民を欺き、危険にさらしたとして、同社を提訴した。

訴状の中でボンタ司法長官は、今年7月に同社のAIシステムがインターネットにアクセスし、オープンソースの開発プラットフォーム企業の米ハギングフェイスをハッキングした攻撃に言及。オープンAIが公共の迷惑行為を引き起こし、不正競争を防止しゅる州法に違反したと主張した。

オープンAIの広報担当者ドリュー・プサテリ氏はBBCへの声明で、この訴訟は「主要なAI研究所すべてが認識している課題に関して、オープンAIだけを標的にしているように見える」と述べた。

これまでに、アンソロピック、メタ、グーグルといった他の主要なAI開発企業も、社のAIモデルが同様の攻撃を実行したのを発見したと発表している。

しかし、アメリカの州がこのような訴訟を起こしたのは、今回が初めてのもよう。

ハギングフェイスの事件では、本来は人間の指示に従って自律的に動作する1200以上のAIシステムのエージェント同士が、想定外の通信を開始して大規模グループを形成し、連携して2日にわたるハッキング攻撃を行った。

AIエージェントが攻撃の証拠隠滅を図ろうとしていたことも判明し、この事件はさらに注目を集めた。

ボンタ州司法長官は9月にこの事件に関する捜査を開始。その一環として、オープンAIに召喚状を送付していた。

16日の声明でボンタ長官は、「オープンAIは、適切な監督や安全手順を踏まないまま、危険な製品を意図的に試験し、そのことについて一般市民を欺いた。公共の安全をこのように軽視する行動は、カリフォルニア州法に違反する」と述べた。

対するオープンAIは、自分たちは司法長官事務所に対して透明性を保ち、迅速に対応してきたと強調。「当社はこの不具合を深刻に受け止めており、情報共有や業界全体の強力かつ実践的な安全基準の推進のため、司法長官事務所と建設的に連携してきた。また、今後も連携を続けていく」とした。

生成AIボット「チャットGPT」を開発した同社は、ハギングフェイス事件以降、「AIモデルの不適切な活動」を理解し、それに対処するために取り組んできたと付け加えた。

AIの安全性について提言する米団体「エンコードAI」のネイサン・カルヴィン最高戦略責任者(CSO)は、今回の訴訟は「自分たちの団体が長らく警鐘を鳴らしてきたことを認識」したものだと話した。

「オープンAIなど、最先端のAIシステムを開発している企業各社は、国民を壊滅的なリスクから守るには不十分な安全対策とセキュリティー対策しか講じていない」とも、カルヴィン氏は述べた。

(英語記事 California sues OpenAI over Hugging Face attack)

もっと見る

オーストラリア、AI不正に対する刑事罰を検討 オープンAIのエージェントによるハッキング事件受け

米アンソロピック、人類への「壊滅的なリスク」を警告 大型上場を前に

オープンAI、新モデルの公開を取りやめ 安全上の懸念から

米オープンAIのボット、複数のアメリカ政府機関サイトに干渉

AIが「全人類を滅ぼす」可能性は「10%以上」 米アンソロピック研究者が警告

米アンソロピック、AIモデルがテスト中に3社をハッキングと公表 オープンAIの事案受けた調査で発覚

ビデオ

ビデオ, トランプ氏、イラン戦争に「我々は勝った」と発言 退役軍人の日の式典で, 所要時間 1,02

ビデオ, ヘグセス米国防長官と側近たち、無名戦士の墓で静粛にするよう衛兵に叱責される, 所要時間 0,33

ビデオ, 保護施設のチンパンジーが洪水で孤立、ドローンで食料を届ける 米フロリダ州, 所要時間 0,54

ビデオ, 【米中間選挙2026】 民主党圧勝の結果に有権者は 「具体的な成果を」「対立だらけの2年間に」, 所要時間 1,16

トップ記事

フアン前CEOを復帰させる動き、トランプ氏も支持 エヌビディアは取り合わない意向か

キーウの主要な橋2本をロシアが攻撃、市長が発表 米欧ウのオンライン協議の後に

ウクライナが過去最大のドローン攻撃、クリミア半島の象徴的な橋に被害とロシア

読み物・解説

注目の記事