앤트로픽 “중국 AI, 클로드 무단 이용”

중국 AI 기업들은 클로드의 답변을 활용하여 자사 모델을 학습시키는 방법을 사용했다.

이들은 사용자 질문을 클로드로 우회 전송한 뒤, 그 답변을 다시 사용자에게 제공하는 ‘위장 AI’ 방식을 통해 기술을 빼돌린 것으로 확인되었다.

앤트로픽은 지난 10일 공개한 위협 정보 보고서에서 2026년부터 중국에 기반을 둔 여러 AI 연구소와 관련된 대규모 지식 증류 공격을 적발했다고 밝혔다.

지식 증류는 강력한 AI 모델의 답변을 활용하여 효율적인 모델을 만드는 기술로, 가짜 계정 및 제3자 프락시를 이용해 무단 접속 방식으로 이루어졌다.

앤트로픽이 특히 문제 삼은 것은 중국 AI 기업 문샷 AI이다. 이 문샷 AI는 자사의 AI 서비스인 키미 이용자들의 질문을 클로드에 전달하고, 클로드의 답변을 다시 이용자들에게 제공하는 방식을 사용했다.

문샷 AI는 열흘간 30만 건의 고객 요청을 클로드로 전달했으며, 이 과정에서 5,380개의 부정 계정을 활용한 것으로 드러났다.

이들은 3,500개 이상의 부정 계정을 사용했으며, 하루 최대 3백만 건의 대화가 발생한 것으로 조사되었다.

공격의 또 다른 특징은 AI가 답을 만들어내는 추론 과정까지 확보하려 했다는 점이다. 다양한 프롬프트를 이용해 클로드의 내부 추론 정보를 추출하려는 시도가 있었다.

이러한 방식은 기업 내부 코드, 자격 증명, 전략 자료 등 민감 정보가 유출될 수 있는 심각한 위험을 내포한다.

이번 사건은 미국과 중국의 AI 경쟁이 단순한 모델 개발 경쟁을 넘어서 상대방의 AI 능력을 직접 추출하는 기술 전쟁으로 확대되고 있음을 보여준다. 이는 미국의 반도체 수출 통제 효과가 약화될 가능성을 제기한다.

앤트로픽은 방어 체계를 강화하고 부정 계정 탐지를 확대하며 대응에 나섰다. 단순한 기술 유출을 넘어 국가 안보 문제로 대두되는 상황이다.