Anthropic은 중국 인공지능 회사 3곳이 증류 공격을 사용하여 자사 기술을 “불법적으로 추출”하는 “산업 규모의 캠페인”을 벌이고 있다고 비난하고 있습니다. Anthropic은 이들 회사가 이러한 노력을 숨기기 위해 24,000개의 사기 계정을 만들었다고 말했습니다.
공격을 자세히 설명하는 블로그 게시물에서 Anthropic은 인기 있는 DeepSeek AI 모델 제조업체인 DeepSeek를 포함하여 3개의 AI 회사를 지명했습니다. Anthropic은 공격을 국가 안보 문제로 명시적으로 구성했습니다.
“우리는 자체 모델을 개선하기 위해 Claude의 능력을 불법적으로 추출하기 위해 DeepSeek, Moonshot 및 MiniMax 등 세 개의 AI 실험실에서 산업 규모의 캠페인을 식별했습니다.”라고 블로그 게시물에 나와 있습니다. “이 연구실에서는 서비스 약관 및 지역별 액세스 제한을 위반하여 약 24,000개의 사기 계정을 통해 Claude와 1,600만 건 이상의 교환을 생성했습니다.”
이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.
지난 1월 OpenAI는 DeepSeek가 증류 공격에 가담해 기술을 효과적으로 훔쳤다고 비난하기도 했습니다.
당시 많은 사람들은 동정심이 아닌 조롱의 반응을 보였습니다. OpenAI를 비롯한 다른 AI 회사들은 허가나 대가 없이 저작물에 대해 모델을 훈련시킬 절대적인 권리가 있다고 주장했기 때문입니다. 일반적으로 AI 업계 지지자들은 중국 경쟁자들이 어쨌든 저작권법을 무시할 것이 확실하기 때문에 저작권이 있는 작품에 대해 훈련할 수밖에 없다고 말합니다.
도널드 트럼프 대통령은 2025년 7월 AI 행사에서 “당신이 읽거나 연구한 모든 기사, 책, 기타 모든 것에 비용을 지불해야 한다면 성공적인 AI 프로그램을 기대할 수 없습니다”라고 말했습니다. “사람이 책이나 기사를 읽을 때 당신은 훌륭한 지식을 얻은 것입니다. 그렇다고 해서 저작권법을 위반하거나 모든 콘텐츠 제공자와 거래해야 한다는 의미는 아닙니다.” 이어 “중국은 그렇지 않다”고 덧붙였다.
Anthropic, Claude Sonnet 4.6 출시: 벤치마크 성능, 사용해 보는 방법
이로 인해 AI 회사는 자신의 지적 재산이 모델 훈련에 적합하지 않다고 주장하는 동시에 스스로 유사한 행동에 참여하는 어색한 위치에 놓이게 됩니다.
매쉬 가능한 광속
증류 공격이란 무엇입니까?
증류는 대규모 언어 모델을 위한 일반적인 훈련 기술입니다. 그러나 기술의 일부 측면을 효과적으로 리버스 엔지니어링하는 데에도 사용할 수 있습니다. 증류 과정에서 AI 연구자들은 동일한 프롬프트의 변형을 반복적으로 실행하여 특정 모델이 어떻게 반응하는지 확인합니다.
“증류는 널리 사용되며 합법적인 교육 방법입니다. 예를 들어, 선도적인 AI 연구소는 고객을 위해 더 작고 저렴한 버전을 만들기 위해 정기적으로 자체 모델을 증류합니다. 그러나 증류는 불법적인 목적으로도 사용될 수 있습니다. 경쟁업체는 이를 사용하여 독립적으로 개발하는 데 소요되는 시간과 비용의 일부만으로 다른 실험실에서 강력한 기능을 얻을 수 있습니다.”
중국 기업은 지적재산권 조약, 저작권법, 서구 기업의 리버스 엔지니어링 기술을 노골적으로 무시하는 것으로 알려져 있습니다. 그러나 Anthropic은 자신이 발견한 증류 공격이 서비스 약관을 위반했다고 밝혔지만, 이들이 국제법을 위반했는지 또는 Anthropic이 위반 계정을 정지하는 것 외에 어떤 구제책을 가지고 있는지는 확실하지 않습니다.
이러한 공격을 방지하기 위해 Anthropic은 AI 기업, 정부 기관 및 기타 이해관계자 간의 협력을 촉구했습니다.
Anthropic, xAI, Meta, OpenAI와 같은 AI 기업은 AI 인프라, 데이터 센터, 연구 개발에 수백억 달러가 쏟아지는 등 사상 최대 규모의 지출 붐을 일으키고 있습니다. 경쟁하는 외국 AI 회사가 증류를 사용하여 LLM 기술을 저렴하게 재현할 수 있다면 분명히 미국 경쟁사보다 우위를 점하게 될 것입니다.
블로그 게시물에는 “이러한 캠페인의 강도와 정교함이 증가하고 있습니다.”라고 적혀 있습니다. “행동할 수 있는 창은 좁고 위협은 단일 회사나 지역을 넘어 확장됩니다. 이를 해결하려면 업계 관계자, 정책 입안자 및 글로벌 AI 커뮤니티 간의 신속하고 조율된 조치가 필요합니다.”
Mashable은 증류 공격에 대한 질문으로 Anthropic에 연락했으며, 답변을 받으면 이 문서를 업데이트하겠습니다.
공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.