이미지 제공, Getty Images
릴리 자마리 북미 기술 담당 편집 위원 (미 캘리포니아 주 팔로 알토)
미국 캘리포니아주 롭 본타 사법장관은 16일 AI 개발의 미국 오픈 AI가 적절한 안전 대책을 강구하지 않고 AI 모델을 개발함으로써 미국 국민을 속이고 위험에 처했다고 회사를 제소했다.
소장 속에서 본타 사법장관은 올해 7월에 이 회사의 AI 시스템이 인터넷에 접속해 오픈소스 개발 플랫폼 기업의 미국 해깅 페이스를 해킹한 공격을 언급했다. 오픈 AI가 공공의 성가신 행위를 일으켜 부정 경쟁을 방지하는 주법을 위반했다고 주장했다.
오픈 AI의 홍보 담당자 드류 프사테리는 BBC에 대한 성명에서 이 소송은 “주요 AI 연구소 모두가 인식하고 있는 과제에 관해 오픈 AI만을 표적으로 하는 것처럼 보인다”고 말했다.
지금까지 앤솔로픽, 메타, 구글 등 다른 주요 AI 개발 기업도 회사의 AI 모델이 비슷한 공격을 수행한 것을 발견했다고 발표했다.
그러나 미국 주가 이런 소송을 낸 것은 이번이 처음인 것 같다.
해깅 페이스의 사건에서는, 본래는 인간의 지시에 따라 자율적으로 동작하는 1200 이상의 AI 시스템의 에이전트끼리, 예상외의 통신을 개시해 대규모 그룹을 형성해, 연계해 2일에 걸치는 해킹 공격을 실시했다.
AI 에이전트가 공격의 증거 은멸을 도모하려고 했던 것도 밝혀졌고, 이 사건은 더욱 주목을 끌었다.
본타주 사법장관은 9월에 이 사건에 관한 수사를 개시. 그 일환으로 오픈 AI에 소환장을 송부하고 있었다.
16일 성명에서 본타 장관은 “오픈 AI는 적절한 감독과 안전 절차를 밟지 않은 채 위험한 제품을 의도적으로 시험하고 그에 대해 일반 시민을 속였다. 공공 안전을 이렇게 경시하는 행동은 캘리포니아주법을 위반한다”고 말했다.
대하는 오픈 AI는, 자신들은 사법 장관 사무소에 대해서 투명성을 유지해, 신속하게 대응해 왔다고 강조. "당사는 이 문제를 심각하게 받아들이고 있어 정보 공유나 업계 전체의 강력하고 실천적인 안전기준의 추진을 위해 사법장관 사무소와 건설적으로 연계해 왔다. 또 앞으로도 연계를 계속해 나갈 것"이라고 했다.
생성 AI 봇 '채팅 GPT'를 개발한 이 회사는 허깅 페이스 사건 이후 'AI 모델의 부적절한 활동'을 이해하고 이에 대처하기 위해 노력해 왔다고 덧붙였다.
AI의 안전성에 대해 제언하는 미국 단체 '인코드 AI'의 네이선 칼빈 최고 전략 책임자(CSO)는 이번 소송은 “자신들의 단체가 오랫동안 경종을 울렸다는 것을 인식”한 것이라고 말했다.
"오픈 AI 등 최첨단 AI 시스템을 개발하고 있는 기업 각사는 국민을 괴멸적인 리스크로부터 지키기에는 불충분한 안전 대책과 보안 대책 밖에 강구하고 있지 않다"고 캘빈은 말했다.
(영어 기사 California sues OpenAI over Hugging Face attack)




