오윤성 기자

미국 인공지능 기업 앤트로픽이 중국 문샷AI가 자사 모델 ‘키미’로 들어온 고객 요청을 몰래 클로드로 넘긴 뒤, 그 결과를 경쟁 모델 훈련에 활용했다고 주장했다.

단순한 모델 복제를 넘어 기업이 선택한 AI와 실제 데이터를 처리한 모델이 달라질 수 있다는 의혹이다. 중국산 AI를 업무에 도입한 기업에는 성능과 가격뿐 아니라 요청이 거치는 모델·국가·사업자를 검증해야 한다는 새 공급망 위험이 부상했다.

앤트로픽이 10일 공개한 위협정보 보고서에 따르면 문샷AI는 열흘 동안 키미 고객 요청 약 30만 건을 클로드로 중계했다. 요청 대부분은 앤트로픽의 고성능 ‘오푸스’ 모델로 전달됐으며, 싱가포르와 일본에 있는 것으로 보이는 부정 계정 5380개가 동원됐다.

앤트로픽은 사용자가 키미를 이용한다고 생각했지만 실제 답변은 클로드가 생성했다고 설명했다. 문샷AI가 이 가운데 적어도 일부 요청과 응답을 저장하고, 클로드의 연쇄사고 추론 기록을 추출하는 파이프라인도 구축했다고 주장했다.

30만 건은 문샷AI 관련 활동 전체 규모가 아니다. 앤트로픽은 올해 5월부터 7월까지 문샷AI에 귀속된 증류 공격이 2300만 건을 넘었다고 집계했다. 열흘간 30만 건은 실제 고객 요청을 클로드로 우회한 사례 한 건의 규모다.

모델 증류는 성능이 높은 모델의 출력을 이용해 더 작거나 저렴한 모델을 훈련하는 기법이다. 개발사가 자기 모델끼리 사용하는 것 자체는 일반적인 기술이지만, 경쟁사의 이용약관과 접근 제한을 우회해 대량 출력을 수집하면 무단 능력 추출 문제가 된다.

문샷AI가 노린 것으로 지목된 것은 답변 문장만이 아니라 답에 도달하는 추론 과정이다. 클로드는 원시 추론 기록 대신 이를 다시 불러올 수 있는 ‘사고 서명’을 반환한다. 앤트로픽에 따르면 문샷AI는 이 서명을 저장한 뒤 새 세션에서 재생해 전체 추론 기록을 복원하는 ‘교차 세션 재생’ 방식을 사용했다.

이 방식이 사실이라면 고객 요청은 두 가지 목적으로 쓰였을 가능성이 있다. 당장의 답변을 생성하기 위해 클로드에 전달되는 동시에, 클로드의 추론 데이터를 모아 문샷AI 모델을 개선하는 훈련 재료가 될 수 있다.

다만 앤트로픽이 공개한 자료만으로 개별 고객 요청 원문이 실제 문샷AI 학습 데이터에 포함됐는지는 확인되지 않는다. 보고서는 저장된 교환 기록에서 추론 기록을 추출해 모델 훈련에 사용했다고 주장했지만, 고객 입력과 첨부 데이터 전체가 어떤 방식으로 선별·보관됐는지는 밝히지 않았다.

데이터 유출 위험은 가정에 그치지 않는다. 앤트로픽은 우회된 요청에서 중국 대형 국유기업의 내부 코드와 실제 접속 자격증명, 개인을 추적한 청두 지역 폐쇄회로TV 자료 등을 발견했다고 밝혔다. 해당 고객들은 정보가 앤트로픽에 전달된다는 사실을 알 방법이 없었다는 게 회사 측 설명이다.

이는 기업용 생성형 AI의 보안 경계를 흔든다. 기업이 키미와 계약하고 중국 또는 지정 리전에 데이터가 머문다고 판단했더라도, 뒤에서 다른 모델을 호출했다면 문서·소스코드·API 키가 계약 관계가 없는 제3자에게 넘어갈 수 있다.

특히 여러 모델 가운데 자동으로 하나를 고르는 AI 라우터와 저가 재판매 서비스는 위험을 키운다. 사용자 화면에 표시되는 모델 이름만으로는 실제 추론 사업자와 저장 위치, 보존 기간을 알 수 없기 때문이다. 앤트로픽은 일부 프록시 사업자가 이용자와 모델 사이의 대화를 저장해 다른 AI 연구소에 판매하는 2차 시장까지 형성됐다고 밝혔다.

앤트로픽은 앞서 지난 2월에도 문샷AI가 340만 건이 넘는 클로드 교환을 생성해 에이전트 추론·코딩·컴퓨터 사용 능력을 추출했다고 발표했다. 당시 딥시크와 미니맥스를 포함한 세 회사가 약 2만4000개 계정으로 1600만 건 이상의 교환을 만들었다고 주장했다. 앤트로픽은 IP 주소와 요청 메타데이터, 인프라 지표 등을 근거로 각 활동을 특정 회사에 귀속했다고 설명했다.

이번 발표는 앤트로픽 자체 조사 결과로, 원시 로그와 귀속 분석 방법 전체가 외부에 공개된 것은 아니다. 문샷AI는 관련 외신의 논평 요청에 즉각 답하지 않았다. 중국 정부는 별도로 미국 측의 산업적 증류 비판을 근거 없는 압박이라고 반박하며 증류는 세계 AI 업계가 사용하는 일반적 기술이라고 주장했다. AP통신은 미국 기관들이 문샷AI 등을 지목한 공동 경보에 중국 상무부가 “이중 기준”이라고 맞섰다고 전했다.

기업이 확인해야 할 것은 모델 국적보다 데이터 처리 계보다. 계약서에 하위 처리업체와 외부 모델 호출 여부를 명시하고, 모델별 요청 경로와 저장 정책을 감사할 수 있어야 한다. 민감 문서는 비식별화하고 실제 자격증명은 프롬프트에 넣지 않는 통제도 필요하다.

이번 사건이 던지는 핵심은 중국 AI가 미국 AI를 베꼈다는 국가 간 경쟁 구도에만 있지 않다. 사용자가 선택하지 않은 경쟁 모델로 데이터가 넘어가고, 그 교환 기록이 다시 다음 모델의 훈련 재료가 될 수 있다는 점이다. 생성형 AI 조달에서 모델 이름만 확인하던 단계는 끝났다. 이제 기업은 답변이 어디서 만들어졌고, 그 과정에 남은 데이터가 누구의 자산이 되는지까지 물어야 한다.