Mary Anne Franks 박사는 AI가 생성한 아동 성적 학대 자료 소지에 대한 최근 법원 판결에 사람들이 분노하는 이유를 설명합니다.
연방 항소 법원 패널이 8월 말 발표한 결정에 따르면 수정헌법 제1조는 아동 성적 학대 자료(CSAM)가 인공 지능을 사용하여 제작되고 실제 아동을 묘사하지 않는 경우 가정 내 소지를 보호한다고 밝혔습니다.
조지워싱턴대학교 로스쿨 지적재산권, 기술 및 시민권 분야의 유진 L. 및 바바라 A. 버나드 교수는 “많은 사람들이 이 말이 얼마나 잘못된 것인지, 또는 여기서 뭔가 급진적인 일이 벌어지고 있는 것처럼 들리는지에 대해 상당히 이해할 수 있는 직관을 갖고 있다”고 말했습니다.
Grok CSAM 소송은 한 단계 더 발전하여 확대됩니다.
대신에 Franks는 AI가 가짜 사람의 초현실적인 이미지와 실제 사람의 가짜 이미지를 렌더링하기 전에 수십 년 전에 내려진 대법원 판결을 패널이 고수했다고 말했습니다.
Franks는 Mashable에 “이전 선례를 아주 간단하게 읽은 것 같지만 듣는 것이 왜 정말 속상한지 이해합니다”라고 말했습니다.
그러나 그것이 이야기의 끝이 아닙니다. 판사들은 대법원에 선례를 재검토할 수 있다는 신호를 보내 결론에 대한 불편함을 분명히 했습니다. Franks는 이러한 움직임을 “비정상적”이라고 불렀습니다.
“(G) 컴퓨터 생성 이미지 기술, 특히 인공 지능 분야의 상당한 발전에도 불구하고 적절한 사건이 발생할 경우 수정헌법 제1조와 가상 CSAM의 교차점에 관한 대법원의 추가 지침이 도움이 될 것입니다”라고 John Z. Lee 판사와 Joshua P. Kolar 판사는 썼습니다.
AI CSAM 사건의 정체는 무엇인가요?
미국 제7순회 항소법원의 일부인 3명의 판사로 구성된 패널은 생성 AI 도구를 사용하여 “초현실적인” CSAM을 만든 소프트웨어 엔지니어인 Steven Anderegg에 대한 연방 소송의 사실을 고려했습니다.
그는 해당 자료를 제작, 배포, 소지한 것은 물론, 2023년 10월 인스타그램 다이렉트 메시지를 통해 미성년자에게 해당 자료를 보냈다는 의혹도 받고 있다. 인스타그램의 모회사인 메타는 해당 이미지를 감지해 신고한 뒤 국립아동실종착취센터 사이버팁라인에 신고했다.
이후 법 집행 조사로 인해 Anderegg가 체포되었습니다. 그는 “미성년자가 성적으로 노골적인 행위를 하는 모습을 묘사하고 음란한 시각적 묘사를 하나 이상” 고의로 소지하는 것을 포함하여 여러 범죄 혐의로 기소되었습니다.
Anderegg는 CSAM 소지에 대한 유죄 판결이 과거 대법원 판결에서 정의한 수정헌법 제1조 권리를 침해한다고 주장하면서 소지 혐의를 기각했습니다. 지방법원은 이에 동의했다. 검찰은 그 결정에 항소하여 미국 제7순회 항소법원에 사건을 접수시켰고, 결국 점유 혐의는 기각되었습니다.
Anderegg는 CSAM을 제작하고 배포한 혐의로 여전히 기소를 당하고 있습니다.
매쉬 가능한 광속
이런 종류의 CSAM이 수정헌법 제1조에 의해 보호되는 이유는 무엇입니까?
Franks는 과거 대법원 사건이 복합적으로 작용하여 Anderegg의 CSAM 소지 혐의가 기각되었다고 설명했습니다.
즉, 1969년 대법원은 다음과 같은 판결을 내렸다. 스탠리 대 조지아 개인은 자신의 집에서 음란물을 소유할 권리가 있습니다.
그러나 1990년에 대법원은 ‘아동 포르노물’ 소지에 대해 예외를 두었습니다. 오스본 대 오하이오. 이번 결정은 CSAM 소지가 가정에서만 보더라도 아동 학대에 대한 영구적인 기록으로 남을 뿐 아니라 다른 피해자를 유인할 수 있는 잠재적인 수단이 된다는 점을 인정한 것입니다. 판사는 이 자료의 소유를 금지하면 CSAM의 수요와 생산을 줄이는 데 도움이 될 수 있다고 판단했습니다.
그러다가 2002년에 대법원은 다음의 소지를 금지하는 연방법 조항을 고려했습니다. 가상 CSAM. 이 금지 조치는 미성년자가 성적으로 노골적인 행위를 하는 것으로 보이는 시각적 묘사나 컴퓨터 생성 이미지를 포함하도록 광범위하게 작성되었습니다.
법원은 해당 조항을 파기하고 전적으로 컴퓨터로 생성된 CSAM이 수정헌법 제1조에 의해 보호된다는 점을 효과적으로 선언했습니다.
법원은 “변형된” CSAM, 즉 실제 아동의 이미지를 사용하여 생성된 컴퓨터 생성 CSAM을 금지하는 연방법의 다른 조항을 다루지 않았습니다.
최근 Anderegg의 항소를 결정하기 위해 2002년 판결에 의존했던 미국 제7순회 항소법원 판사들은 그렇게 하는 것이 어렵다는 점을 인정했습니다.
존 Z. 리(John Z. Lee) 판사는 자신의 의견에서 “인공지능 모델의 끊임없는 발전을 고려할 때 이러한 사례가 그리는 선에 대해 일부 우려가 있지만 우리 스스로 이를 다시 그릴 자유는 없습니다”라고 썼습니다.
AI CSAM의 다음 단계
정부는 아직 제7순회법원의 결정에 대해 항소하지 않았지만 Franks는 항소할 수 있는 선택권이 있다고 말했습니다. 이 경우 대법원은 10월에 이 사건을 심리하는 것을 고려할 것입니다.
Franks는 완전한 가상 CSAM이 수정헌법 제1조에 의해 보호된다는 결론에 성공적으로 도전할 수 있다고 말했습니다. 특히, 정부는 AI 모델이 실제로 CSAM 이미지에 대해 훈련을 받았다고 주장할 수 있습니다.
결과적으로 AI가 생성한 특정 CSAM 이미지가 실제 아동을 묘사하지 않더라도 실제 피해 아동의 이미지를 이용하여 제작되었을 가능성이 있습니다.
Franks는 가상 CSAM 금지가 “반LGBTQ+, 여성혐오자 및/또는 반성교육 의제를 지닌 도덕적 십자군에 의한 무기화”를 피하기 위해 매우 좁고 신중하게 정의되어야 한다고 믿습니다.
예를 들어 헤리티지 재단(Heritage Foundation)의 프로젝트 2025(Project 2025)는 포르노가 불법화되어야 하며 이를 생산하고 배포하는 사람들은 투옥되어야 한다고 주장합니다. 프로젝트 2025는 포르노를 “트랜스젠더 이데올로기와 아동의 성적 대상화의 편재한 전파”와 연관시킵니다.
그럼에도 불구하고 Franks는 AI CSAM의 위험은 가상의 가능성이 아니라 현실적이고 현재적이라고 말했습니다.
그녀의 의견으로는 AI CSAM은 성인과 다른 어린이에 의한 어린이의 성적 대상화를 정상화하여 어린이의 신체적 자율성, 자존감 및 번영을 약화시킵니다.
Franks는 “우리가 물어봐야 할 질문은 AI CSAM이 그러한 피해를 정당화하기 위해 제공할 수 있는 이점이 무엇인지입니다”라고 말했습니다.
귀하가 온라인에서 성착취를 당하고 있는 아동이거나, 온라인에서 성착취를 당하고 있는 아동을 알고 있거나, 온라인에서 아동 착취가 발생하는 것을 목격한 경우 CyberTipline에 신고할 수 있습니다.국립실종착취아동센터에서 운영하는.
주제
인공지능 사회적 이익
완벽 가이드 보기