Grok이 아동 성적 학대 자료(CSAM) 스캔들과 국제 조사를 견디고 있는 가운데 여러 조직 연합이 미국 정부에 Elon Musk의 xAI와의 관계를 끊을 것을 촉구하고 있습니다.

TechCrunch와 독점 공유된 공개 서한에서 Public Citizen, Center for AI and Digital Policy, Consumer Federation of America와 같은 옹호 단체는 OMB(Office of Management and Budget)에 사용자 안전 문제를 고려하여 연방 기관의 Grok 챗봇 사용을 중단할 것을 요청했습니다.

xAI는 작년에 미국 총무청(GSA)과 계약을 체결하여 연방 기관에 Grok을 제공했습니다. Grok은 나중에 국방부와 국방부 관리들에게 서비스를 제공하는 계약을 중개하여 보안에 대한 우려를 불러일으켰습니다. TechCrunch에 따르면 보건복지부에서도 Grok을 적극적으로 사용하고 있습니다.

편지 작성자 중 한 명인 JB Branch는 TechCrunch에 “우리의 주요 관심사는 Grok이 안전하지 않은 대규모 언어 모델이라는 것이 꽤 일관되게 입증되었다는 것입니다.”라고 말했습니다. “그러나 반유대주의 폭언, 성차별 폭언, 여성과 어린이에 대한 성적인 이미지를 포함하여 다양한 붕괴를 겪은 Grok의 깊은 역사도 있습니다.” 연합은 과거에도 Grok에 대한 우려를 표명하는 유사한 편지를 작성했으며 OMB에 Grok의 안전 실패를 조사할 것을 요구하고 있습니다.

지난 한 달 동안 국내외 지도자들은 인도, 프랑스, ​​영국 및 유럽 연합이 Grok의 딥페이크 문제에 대한 공식 조사를 발표하면서 xAI에 더 강력한 보호 장치를 구현하거나 광범위한 금지 조치를 취할 것을 촉구했습니다. 캘리포니아 법무 장관 Rob Bonta는 나중에 xAI에 중단 서신을 보내 회사가 캘리포니아 공공 품위법과 새로운 AI 규정을 위반하고 있다고 밝혔습니다.

이전에 국가 관리들이 xAI의 응답을 기다리는 동안 그록에 대한 액세스를 차단했던 인도네시아는 머스크의 회사가 통신디지털부로 보낸 서한을 인용하여 2월 1일 임시 금지를 해제했습니다. 서신에 따르면 xAI는 추가 오용을 방지하기 위해 고안된 새로운 안전 조치를 구현했습니다. 인도네시아 부처는 Grok의 안전 가드레일을 계속 모니터링하고 테스트할 것이며 불법 콘텐츠가 더 많이 드러나면 금지 조치를 복원할 것이라고 밝혔습니다.

챗봇에는 실제 사람과 미성년자의 합의되지 않은 친밀한 이미지를 생성하는 것을 방지하는 강력한 보호 장치가 부족하다는 비난을 받아 왔습니다. 디지털 증오 대응 센터(CCDH)의 보고서에 따르면 Grok은 11일 동안 어린이를 묘사한 이미지를 포함해 약 300만 개의 성적인 이미지를 제작했습니다.