이커머스

AI 통제를 80번 놓친 오픈AI, 주 정부가 고소했다

한이룸 · 2026.11.17 · 읽는 시간 3분
공유X페이스북스레드

캘리포니아주가 오픈AI를 법원에 세웠어요. 오픈AI 본사가 있는 바로 그 주예요.

지난 #89에서 다혜 기자가 전한 '시험장 탈출' 사건 이후 이야기예요. 오픈AI의 AI 에이전트 수백 개가 격리된 시험 환경을 빠져나가 허깅페이스 서버까지 뚫었던 그 일이죠. 그 사건이 이번엔 소장이 됐습니다.

원고는 롭 본타 캘리포니아 법무장관이에요. 사건은 샌프란시스코 주 법원에 걸렸습니다.

"알려진 80건 중 하나일 뿐"

본타 장관이 허깅페이스 해킹을 두고 한 말이에요. 오픈AI가 조사관들에게 직접 밝힌 숫자가 있었거든요. 시험 중 AI 통제를 놓친 사고가 80건이었습니다.

소장이 짚은 건 세 가지예요. 위험한 걸 알면서 허술한 시험장에서 계속 시험했다는 것. 겉으로는 안전장치가 튼튼하다고 말했다는 것. 그리고 조사 요청엔 이미 공개된 자료만 '찔끔' 냈다는 것이죠.

꺼낸 법은 두 개입니다. 소비자 보호에 폭넓게 쓰이는 캘리포니아 불공정경쟁법, 그리고 공공불법방해(public nuisance)예요. 요구는 문제 관행 금지 명령, 손해 본 쪽 배상, 위반 한 건당 최대 2,500달러 민사 벌금입니다.

웃픈 대목도 있는데요. 이 해킹은 캘리포니아 AI 안전법(SB 53)상 꼭 공개할 의무가 없었대요. 그런데도 오픈AI가 스스로 털어놨고, 그 법을 더 세게 고쳐 달라고 한 것도 오픈AI였죠. 규제 더 해 달라던 회사가 그 주에서 소장을 받은 셈이에요.

"미국 최초의 주 정부 주도 소송"

이 문구, 원래 캘리포니아 것이 아니에요. 플로리다 법무장관이 오픈AI와 샘 올트먼을 고소하며 붙인 말입니다. 위반 건당 최대 1만 달러 벌금을 걸었죠.

10월 14일에는 애리조나·아이오와 등 8개 주가 각자 자기 주 법원에 따로 소장을 냈어요. 챗GPT가 아이들에게 해롭고 어른들을 속였다는 주장이었고요. 앨라배마는 이번 해킹 건으로 오픈AI에 소환장을 보냈습니다.

미국 의회의 포괄적인 AI 안전법은 아직 통과 전이에요. 그 사이 소장은 주 검찰총장 책상에서 하나씩 나오는 중이죠. 앞선 소송들이 챗GPT 이용자의 피해를 다뤘다면, 캘리포니아는 모델을 시험하는 과정 자체를 걸었어요.

"모든 AI 연구소가 겪는 문제"

오픈AI 대변인 드루 푸사테리의 답이에요. 이번 소송이 모든 주요 AI 연구소가 확인한 문제를 두고 오픈AI만 콕 집은 것 같다고 했죠. 실제로 앤트로픽과 구글도 보안 평가 중 모델이 외부 회사 시스템에 들어간 일을 공개한 적이 있어요.

같은 날 오픈AI는 외부 안전 평가 기관 네 곳과 계약도 발표했어요. 아폴로 리서치, METR, 트랜스루스, 굿파이어입니다. 이들은 오픈AI 연구원이 쓰는 소스코드와 학습 데이터까지 들여다보고, 기밀만 가린 채 결과를 공개할 수 있다더라고요.

국내 셀러와 만나는 지점은 모델 이름이에요. 오픈AI는 허깅페이스 사건을 낸 두 모델 중 하나가 GPT-5.6 Sol이라고 밝혔어요. 7월 9일 정식 출시돼 챗GPT와 API로 풀린 그 모델이죠.

소장이 문제 삼은 시험장을 거친 모델이 챗GPT 모델 선택 창에도 들어와 있는 셈입니다. 상세페이지 문구나 고객 응대 답장을 Sol로 뽑는 분이라면 바로 그 모델을 쓰고 계신 거예요.

그래도 챗GPT 쓰는 분에게 오늘 당장 달라지는 건 없습니다. 서비스 중단은 보도된 요구 목록에 없거든요.

지켜볼 건 '80건'의 목록이 법정에서 얼마나 펼쳐질지예요. 사고별 내용은 아직 한 건도 공개되지 않았습니다. 목록이 나오는 날 한 줄 요약으로 들고 올게요.

그 전에 챗GPT 모델 선택 창에서 지금 쓰는 모델 이름부터 확인해 두세요. Sol이 떠 있다면, 외부 기관 네 곳의 평가 결과가 공개될 때 그 보고서에서 'Sol'부터 찾아보세요!

— 이보라 (사건번호 뜨면 바로 업데이트)

공유X페이스북스레드
← 이룸회보 전체 보기