오픈AI, 모델 추론 추출 시도 차단 발표…문샷AI 연관성 주장

오픈AI가 자사 모델의 비공개 추론 내용을 끌어내려는 조직적 시도를 발견하고 차단했다고 9월 30일 밝혔다. 회사는 이 활동이 7월 초 시작됐으며 서비스 이용 약관을 위반한 무단 모델 증류 시도로 판단한다고 설명했다. 이 내용은 오픈AI 자체 조사 결과로, 관련 주체의 법적 책임이 확정됐다는 뜻은 아니다.

오픈AI에 따르면 7월 24일과 25일 관련 패턴을 보인 요청이 1만6000건에 이르렀다. 이 수치는 추출 성공 건수가 아니라 시도 건수다. 회사는 연관된 요청 활동을 더 조사해 7월 28일까지 차단했다고 밝혔다. 조사 대상 전체가 한 주체에서 나왔는지는 불분명하며, 핵심 활동군을 문샷AI와 관련된 개인들에게 귀속한다는 것이 회사의 판단이다.

오픈AI는 암호화나 데이터베이스가 뚫렸거나 저장된 사용자 대화가 직접 유출된 사건은 아니라고 밝혔다. 회사 설명상 일부 요청은 다른 대화에서 얻은 암호화된 추론 내용을 새 대화에 넣고 이를 풀어 적도록 유도하는 방식이었다. 오픈AI는 관련 계정을 제한하고 추론 보호 조치와 감시 체계를 강화했다고 전했다.

별도로 앤트로픽은 9월 위협 보고서에서 문샷AI가 자사 모델 클로드를 대상으로 무단 증류 활동을 벌였다고 주장했다. 이는 다른 회사가 다른 서비스에서 조사한 별개의 사례이며, 이번 오픈AI 발표의 사실관계를 독립적으로 입증하는 자료는 아니다. 앞서 중국 상무부는 미국 당국의 광범위한 증류 의혹 제기를 근거 없다고 반박했다고 AP통신은 보도했다. 이는 이번 오픈AI 조사 발표에 대한 개별 답변은 아니다.