droit d’auteur de l’imageGetty Images

Lily Jamali, rédactrice technologique nord-américaine (Palo Alto, Californie, États-Unis)

Le procureur général de Californie, Rob Bonta, a intenté une action en justice contre OpenAI le 16, alléguant que l'entreprise avait trompé et mis en danger le public américain en développant des modèles d'IA sans mettre en place de mesures de sécurité appropriées.

Dans la plainte, le procureur général Bonta a cité une attaque de juillet au cours de laquelle le système d'IA de l'entreprise a accédé à Internet et piraté la société de plateforme de développement open source HuggingFace. Ils ont fait valoir qu’Open AI créait une nuisance publique et violait les lois des États contre la concurrence déloyale.

Dans une déclaration à la BBC, le porte-parole d'OpenAI, Drew Pusateri, a déclaré que le procès "semble cibler uniquement OpenAI concernant les défis que tous les principaux instituts d'IA ont reconnus".

D’autres grands développeurs d’IA, notamment Anthropic, Meta et Google, ont déjà annoncé avoir découvert que leurs modèles d’IA avaient mené des attaques similaires.

Cependant, il semble que ce soit la première fois qu’un État américain intente une telle action en justice.

Lors de l’incident de Hugging Face, plus de 1 200 agents du système d’IA, qui fonctionnent normalement de manière autonome selon des instructions humaines, ont commencé à communiquer entre eux de manière inattendue, formant un grand groupe et travaillant ensemble pour mener une attaque de piratage informatique pendant deux jours.

L'incident a reçu encore plus d'attention après qu'il a été révélé que l'agent d'IA tentait de détruire les preuves de l'attaque.

Le procureur général de l'État de Bonta a ouvert une enquête sur l'incident en septembre. Dans le cadre de cet effort, une assignation à comparaître a été envoyée à Open AI.

"OpenAI a intentionnellement testé un produit dangereux et a induit le public en erreur sans surveillance ni procédures de sécurité appropriées", a déclaré Bonta dans un communiqué lundi. "Ce mépris pour la sécurité publique viole la loi californienne."

En réponse, Open AI a souligné qu'elle avait fait preuve de transparence avec le bureau du procureur général et avait réagi rapidement. "Nous prenons ce défaut au sérieux et avons travaillé de manière constructive avec le bureau du procureur général pour partager des informations et promouvoir des normes de sécurité solides et pratiques dans l'ensemble de l'industrie. Nous continuerons à travailler ensemble."

La société, qui a développé le robot d'IA génératif Chat GPT, a ajouté qu'elle s'efforçait de comprendre et de traiter les « activités inappropriées des modèles d'IA » depuis l'incident de Hugging Face.

Nathan Calvin, directeur de la stratégie chez EncodeAI, une organisation américaine qui milite pour la sécurité de l'IA, a déclaré que le procès était une "reconnaissance de ce sur quoi notre organisation tire la sonnette d'alarme depuis longtemps".

"Les entreprises développant des systèmes d'IA de pointe, tels qu'OpenAI, prennent des mesures de sûreté et de sécurité insuffisantes pour protéger le public des risques catastrophiques", a déclaré Calvin.

(Article en anglais La Californie poursuit OpenAI pour l'attaque Hugging Face)

Voir plus

L'Australie envisage des sanctions pénales pour fraude à l'IA suite à un incident de piratage impliquant des agents d'IA ouverts

US Anthropic met en garde contre des « risques catastrophiques » pour l'humanité avant une inscription majeure

Open AI annule la sortie d'un nouveau modèle pour des raisons de sécurité

Le robot US Open AI interfère avec plusieurs sites d'agences gouvernementales américaines

Un chercheur américain sur l'anthropologie prévient qu'il y a « plus de 10 % » de chances que l'IA « anéantisse toute l'humanité »

US Anthropic annonce que son modèle d'IA a piraté trois entreprises lors de tests, découverts lors d'une enquête suite à l'incident d'Open AI

vidéo

Vidéo, Trump déclare "nous avons gagné" la guerre en Iran lors de la cérémonie de la Journée des anciens combattants, durée 1,02

Vidéo, le secrétaire américain à la Défense Hegseth et ses assistants sont réprimandés par les gardes pour leur silence sur la Tombe du Soldat inconnu, durée 0,33

Vidéo, Un drone livre de la nourriture aux chimpanzés dans un refuge bloqués par les inondations, Floride, Durée 0,54

Vidéo, [États-Unis Élections de mi-mandat 2026] Les électeurs veulent des « résultats concrets » et « deux années pleines de conflits » après la victoire écrasante du Parti démocrate, durée 1,16

Articles phares

Trump soutient également la décision de réintégrer l'ancien PDG Juan, Nvidia a-t-il l'intention de rester en dehors de l'accord ?

La Russie attaque deux ponts majeurs à Kiv, annonce le maire après des négociations en ligne entre les États-Unis et l'UE

La plus grande attaque de drone jamais réalisée en Ukraine endommage un pont emblématique en Crimée, selon la Russie

Matériel de lecture/commentaire

Articles en vedette