OpenAI는 AI 생성 텍스트에 보이지 않는 워터마크를 추가합니다.

OpenAI는 ChatGPT와 프로그래밍 에이전트 Codex가 생성한 텍스트에 보이지 않는 워터마크를 추가하여 기계가 AI가 작성한 텍스트를 더 쉽게 식별할 수 있도록 합니다. 월요일에 발표된 변경 사항은 EU에서 의무적으로 적용되며 현재 전 세계의 API 고객이 선택할 수 있습니다.

대규모 언어 모델은 한 번에 한 단어씩 텍스트를 생성하고 이전 단어를 살펴봄으로써 다음 단어가 무엇인지 결정하는 방식으로 작동합니다. OpenAI의 새로운 텍스트 워터마킹 시스템 textGrain은 AI 모델이 단어를 선택하는 방식을 변경하여 이전 텍스트와 비밀 키에 의해 결정된 의사 난수 값을 모두 고려하도록 함으로써 이에 영향을 미칩니다.

이렇게 하면 생성된 콘텐츠에 통계 신호가 남게 되어 AI 탐지 기계가 이러한 의사 난수 값이 무엇인지 판단하고 텍스트가 이 값에 종속되는지 여부를 설정할 수 있습니다. 그렇다면 AI 생성으로 플래그가 지정됩니다.

이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.

OpenAI의 텍스트 워터마킹은 앞으로 몇 주에 걸쳐 EU의 ChatGPT 및 Codex 전반에 걸쳐 출시될 예정입니다. 또한 일부 모델에 걸쳐 전 세계적으로 API 고객이 사용할 수 있지만 기본적으로 꺼져 있으므로 선택해야 합니다.

그러나 OpenAI의 텍스트 워터마크 감지 도구는 액세스를 신청한 연구자 및 전문가에게만 제공됩니다. OpenAI는 이러한 제한이 부분적으로 텍스트 워터마킹의 제한, 특히 짧은 구절과 관련된 제한 때문이라고 밝혔습니다. 테스트에서 이 도구는 AI가 생성한 200단어 문장 중 80%에서만 워터마크를 포착했으며, 해당 텍스트가 수학과 같은 엄격한 어휘가 포함된 주제에 관한 경우 감지율은 훨씬 더 낮았습니다.

AI가 생성한 텍스트를 편집하면 OpenAI 탐지 도구의 효율성이 크게 저하될 수도 있습니다. 회사는 400 단어로 구성된 구문에서 단 10%의 단어만 변경해도 탐지율이 66%로 감소했으며, 단어를 25% 교체하면 탐지율이 17%로 더욱 낮아졌다고 밝혔습니다.

OpenAI는 발표에서 “텍스트 워터마킹 및 감지는 상당한 제한이 있는 초기 기술로 남아 있으며 그 이점과 책임 있는 사용에 대한 견해가 계속 발전하고 있습니다”라고 밝혔습니다.

OpenAI는 또한 텍스트 워터마크가 생성된 콘텐츠의 소유권을 설정하거나 정확성을 입증하거나 이를 촉발한 사람을 식별할 수 없다고 강조했습니다. 워터마크가 없다고 해서 콘텐츠가 인간에 의해 만들어졌다는 증거도 아닙니다.

크레딧: OpenAI

OpenAI의 새로운 텍스트 워터마크는 EU의 인공 지능법에 대한 대응입니다. 당시 보도 자료에 따르면 원래 2024년에 서명된 이 규정은 “고위험 AI로부터 기본권, 민주주의, 법치, 환경 지속 가능성을 보호”하는 것을 목표로 했습니다. EU AI법은 2025년부터 단계적으로 발효돼 올해 8월 2일부터 대부분의 조항이 적용된다.

여기에는 AI 시스템 제공업체가 “AI 시스템의 출력이 기계가 읽을 수 있는 형식으로 표시되고 인위적으로 생성되거나 조작된 것으로 감지될 수 있도록 보장”하도록 요구하는 제50(2)조가 포함됩니다. 8월 2일 이전에 AI 모델을 출시한 OpenAI와 같은 제공업체는 12월 2일까지 제50(2)조를 준수해야 하며 그렇지 않으면 전 세계 연간 매출액의 최대 3%까지 벌금이 부과될 수 있습니다.

지난 주 로이터 통신은 OpenAI의 연간 반복 수익이 700억 달러에 가깝다고 보도했습니다(그러나 그러한 계산이 오해의 소지가 있을 수 있다는 점도 인정했습니다). 따라서 50(2)조를 위반하면 OpenAI에 20억 달러 이상의 벌금이 부과될 수 있습니다.

올해 초 Anthropic은 자사의 AI 챗봇인 Claude가 EU 규정에 따라 생성된 콘텐츠에 워터마크를 표시할 것이라고 발표했습니다. OpenAI와 달리 Anthropic의 워터마크는 EU뿐만 아니라 전 세계 모든 사용자가 사용할 수 있습니다.

공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.