Grok 아동 성적 학대 자료 소송에 더 많은 원고 등장

일론 머스크(Elon Musk) 소유의 스페이스XAI(SpaceXAI)는 자사의 인공지능 로봇 그록(Grok)이 아동 성적 학대 자료(CSAM) 제작에 사용됐다는 스캔들 이후 연방 법원에서 변호할 예정이다.

지난 3월, 테네시주의 10대 3명은 수백만 장의 미성년자의 성적으로 노골적인 이미지를 제작한 혐의로 회사를 상대로 연방 소송을 제기했으며, 악의적인 행위자가 어렸을 때 AI 도구를 사용하여 부적절한 이미지를 생성했다고 주장했습니다. 지난달에는 Grok의 이미지 생성 기능을 통해 가능해진 온라인 성적 학대에 대한 놀라운 이야기를 자세히 설명하는 두 명의 추가 원고가 사건에 합류하면서 소송이 확대되었습니다.

이 소송에는 인기 있는 텍스트-이미지 모델인 Stable Diffusion의 제조사인 Stability AI라는 두 번째 피고도 추가되었습니다.

두 명의 새로운 원고 중 한 명은 “이러한 도구에 대한 무제한적인 접근이 너무 빠르게 확산되고 있습니다. 이는 일상 생활을 빼앗고 이를 아동 성적 학대로 바꾸고 있습니다”라고 말했습니다. 그녀는 사건에서 Jane Doe 4로 언급됩니다.

미국 법에 따라 기업은 아동 성 착취가 의심되는 사례를 국립실종착취아동센터(NCMEC)에 신고해야 합니다. 2025년에는 Meta, Amazon AI Services, TikTok, Snapchat, Discord, X.AI, Grindr 및 Roblox가 NCMEC에 총 1,700만 개의 팁을 제출했는데, 이는 전체 팁의 80%에 해당합니다. 그러나 NCMEC에 따르면 이러한 보고서 중 다수에는 AI 훈련 데이터에 아동 성 학대 자료(CSAM)가 존재한다는 내용과 법 집행 기관이 용의자를 찾는 데 도움이 될 수 있는 구체적인 세부 정보 등 주요 정보가 누락되어 있습니다.

확대된 소송의 일부로 제출된 정보에 따르면 X는 Jane Doe 4의 사건과 관련하여 단 한 가지 제보만 보냈고 법 집행 기관에 요청했을 때 추가 정보를 제공하지 않았습니다. 경찰 기록에 따르면 가해자는 Grok을 사용하여 어린 시절 사진 한 장을 사용하여 Jane Dane 4의 성적으로 노골적인 이미지와 비디오 7,000개 이상을 제작했습니다.

CSAM을 제작하는 역할 외에도 원고는 SpaceXAI(이전의 xAI)가 Grok의 AI 기능을 통해 성매매 벤처로부터 이익을 얻었다고 주장합니다. 이 사건은 또한 회사가 ‘과실’과 ‘제품 디자인 결함’을 통해 대중에게 폐를 끼쳤다고 주장합니다.

원고측 변호사인 애니카 마틴(Annika Martin)은 NPR과의 인터뷰에서 그록(Grok)은 “사회의 재앙”이라고 말했다.

동의 없이 은밀한 이미지를 공유한 경우 Cyber ​​Civil Rights Initiative의 연중무휴 핫라인 844-878-2274로 전화하여 무료 비밀 지원을 받으세요. CCRI 웹사이트에는 다음이 포함됩니다. 유용한 정보 뿐만 아니라 목록 국제 자원.