画像提供, Getty Images
リリー・ジャマリ北米テクノロジー担当編集委員(米カリフォルニア州パロアルト)
米カリフォルニア州のロブ・ボンタ司法長官は16日、AI開発の米オープンAIが、適切な安全対策を講じずにAIモデルを開発することで、アメリカ国民を欺き、危険にさらしたとして、同社を提訴した。
訴状の中でボンタ司法長官は、今年7月に同社のAIシステムがインターネットにアクセスし、オープンソースの開発プラットフォーム企業の米ハギングフェイスをハッキングした攻撃に言及。オープンAIが公共の迷惑行為を引き起こし、不正競争を防止しゅる州法に違反したと主張した。
オープンAIの広報担当者ドリュー・プサテリ氏はBBCへの声明で、この訴訟は「主要なAI研究所すべてが認識している課題に関して、オープンAIだけを標的にしているように見える」と述べた。
これまでに、アンソロピック、メタ、グーグルといった他の主要なAI開発企業も、社のAIモデルが同様の攻撃を実行したのを発見したと発表している。
しかし、アメリカの州がこのような訴訟を起こしたのは、今回が初めてのもよう。
ハギングフェイスの事件では、本来は人間の指示に従って自律的に動作する1200以上のAIシステムのエージェント同士が、想定外の通信を開始して大規模グループを形成し、連携して2日にわたるハッキング攻撃を行った。
AIエージェントが攻撃の証拠隠滅を図ろうとしていたことも判明し、この事件はさらに注目を集めた。
ボンタ州司法長官は9月にこの事件に関する捜査を開始。その一環として、オープンAIに召喚状を送付していた。
16日の声明でボンタ長官は、「オープンAIは、適切な監督や安全手順を踏まないまま、危険な製品を意図的に試験し、そのことについて一般市民を欺いた。公共の安全をこのように軽視する行動は、カリフォルニア州法に違反する」と述べた。
対するオープンAIは、自分たちは司法長官事務所に対して透明性を保ち、迅速に対応してきたと強調。「当社はこの不具合を深刻に受け止めており、情報共有や業界全体の強力かつ実践的な安全基準の推進のため、司法長官事務所と建設的に連携してきた。また、今後も連携を続けていく」とした。
生成AIボット「チャットGPT」を開発した同社は、ハギングフェイス事件以降、「AIモデルの不適切な活動」を理解し、それに対処するために取り組んできたと付け加えた。
AIの安全性について提言する米団体「エンコードAI」のネイサン・カルヴィン最高戦略責任者(CSO)は、今回の訴訟は「自分たちの団体が長らく警鐘を鳴らしてきたことを認識」したものだと話した。
「オープンAIなど、最先端のAIシステムを開発している企業各社は、国民を壊滅的なリスクから守るには不十分な安全対策とセキュリティー対策しか講じていない」とも、カルヴィン氏は述べた。
(英語記事 California sues OpenAI over Hugging Face attack)




