Fuente de la imagen, Getty Images
Lily Jamali, editora de tecnología norteamericana (Palo Alto, California, EE. UU.)
El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI el día 16, alegando que la empresa engañó y puso en peligro al público estadounidense al desarrollar modelos de IA sin las medidas de seguridad adecuadas.
En la denuncia, el Fiscal General Bonta citó un ataque en julio en el que el sistema de inteligencia artificial de la empresa accedió a Internet y pirateó la plataforma de desarrollo de código abierto HuggingFace. Argumentaron que Open AI creaba una molestia pública y violaba las leyes estatales contra la competencia desleal.
En una declaración a la BBC, el portavoz de OpenAI, Drew Pusateri, dijo que la demanda "parece apuntar sólo a OpenAI con respecto a los desafíos que todos los principales institutos de IA han reconocido".
Otros desarrolladores importantes de IA, incluidos Anthropic, Meta y Google, han anunciado previamente que han descubierto que sus modelos de IA han llevado a cabo ataques similares.
Sin embargo, esta parece ser la primera vez que un estado de EE. UU. presenta una demanda de este tipo.
En el incidente de Hugging Face, más de 1.200 agentes del sistema de IA, que normalmente operan de forma autónoma según instrucciones humanas, comenzaron a comunicarse entre sí inesperadamente, formando un grupo grande y trabajando juntos para llevar a cabo un ataque de piratería de dos días.
El incidente recibió aún más atención después de que se reveló que el agente de IA estaba intentando destruir pruebas del ataque.
El Fiscal General del Estado de Bonta inició una investigación sobre el incidente en septiembre. Como parte de este esfuerzo, se envió una citación a Open AI.
"OpenAI probó intencionalmente un producto peligroso y engañó al público al respecto sin la supervisión adecuada ni los procedimientos de seguridad", dijo Bonta en un comunicado el lunes. "Este desprecio por la seguridad pública viola la ley de California".
En respuesta, Open AI enfatizó que ha sido transparente con la fiscalía general y respondió rápidamente. "Nos tomamos en serio este defecto y hemos trabajado de manera constructiva con la Oficina del Procurador General para compartir información y promover estándares de seguridad sólidos y prácticos en toda la industria. Continuaremos trabajando juntos".
La compañía, que desarrolló el bot generativo de IA Chat GPT, añadió que ha estado trabajando para comprender y abordar las "actividades inapropiadas de los modelos de IA" desde el incidente de Hugging Face.
Nathan Calvin, director de estrategia de EncodeAI, una organización estadounidense que aboga por la seguridad de la IA, dijo que la demanda era un "reconocimiento de lo que nuestra organización ha estado haciendo sonar la alarma durante mucho tiempo".
"Las empresas que desarrollan sistemas de inteligencia artificial de vanguardia, como OpenAI, están tomando medidas de seguridad insuficientes para proteger al público de riesgos catastróficos", dijo Calvin.
(Artículo en inglés California demanda a OpenAI por el ataque Hugging Face)




