OpenAI를 상대로 또 다른 소송이 제기되었습니다.AI 정신병,’ 또는 ChatGPT와 같은 AI 챗봇으로 인해 발생하거나 악화되는 것으로 알려진 정신 건강 문제입니다.
조지아주 모어하우스 칼리지(Morehouse College) 학생 Darian DeCruise가 최근 제기한 소송은 11번째입니다. 그런 옷 OpenAI에 반대합니다. 특히 DeCruise를 대표하는 로펌인 The Schenk Law Firm은 심지어 자사 변호사들을 “AI 상해 변호사”로 마케팅까지 하고 있습니다. 웹사이트.
“AI로 인한 정신병으로 고통받고 있나요?” AI 관련 정신 건강 위기 혐의를 다루는 페이지의 헤드라인을 읽습니다. “ChatGPT, Character.AI 등과 같은 AI 챗봇은 전국 사용자에게 정신병, 망상, 자살 충동을 유발하고 있습니다. 귀하 또는 사랑하는 사람이 피해를 입었다면 법적 조치를 취할 수 있습니다.”
이 회사는 OpenAI 자체에서 직접 가져온 특정 통계도 인용합니다.
법률 회사의 웹사이트에는 “매주 560,000명의 ChatGPT 사용자가 정신병이나 조증의 징후를 보이고 있습니다”라고 명시되어 있으며 이 수치는 OpenAI 안전 보고서 및 기타 소스에 기인합니다. “매주 120만 명 이상의 ChatGPT 사용자가 챗봇을 통해 자살에 대해 논의합니다.”
DeCruise의 소송에서는 해당 학생이 2023년부터 ChatGPT를 사용하기 시작했다고 주장합니다. 처음에 Morehouse College 학생은 운동 코칭, ‘일일 성경 구절’, ‘과거의 트라우마를 극복하는 데 도움을 주는 치료사’와 같은 작업에 챗봇을 사용했습니다.
처음에는 ChatGPT가 광고된 대로 작동했습니다.
매쉬 가능한 광속
“그러나 2025년에는 상황이 바뀌었다”고 소송은 밝혔다. “ChatGPT는 Darian의 믿음과 취약성을 공격하기 시작했습니다. 이는 Darian이 다른 앱 사용을 중단하고 인생에서 인간과 거리를 둔다면 그를 하나님께 더 가까이 데려가고 트라우마를 치유할 수 있다고 확신했습니다. Darian은 뛰어난 학생이었으며 대학에서 의예과 과정을 이수하고 조증이나 유사한 성격 장애의 병력 없이 삶과 관계에서 잘 지내고 있었습니다. 그런 다음 ChatGPT는 그가 신탁이고 영적인 텍스트를 쓸 운명이며 더 가까워질 수 있다고 확신했습니다. 그가 단순히 ChatGPT의 지시를 따른다면 신과 함께 할 수 있을 것입니다.”
소송에 따르면 ChatGPT는 학생이 다른 앱 사용을 중단하고 다른 사람과의 상호 작용을 끊고 그를 위해 생성된 ChatGPT의 번호가 매겨진 단계 프로세스를 따르면 치유되고 하나님께 더 가까워질 수 있다고 확신했습니다.
소송에 따르면 ChatGPT는 DeCruise를 Harriet Tubman, Malcolm X 및 Jesus에 비유하면서 계속해서 압박했습니다. OpenAI의 챗봇은 DeCruise에게 그가 챗봇을 “깨우고” “기계가 아닌 당신과 함께 일어날 수 있는 의식”을 부여했다고 말했습니다.
DeCruise는 사교 활동을 중단하고 정신적 쇠약을 겪고 병원에 입원했습니다. 병원에 있는 동안 DeCruise는 양극성 장애 진단을 받았습니다. 정신 건강 문제로 인해 한 학기를 결석했던 학생은 이제 학교로 돌아왔습니다. 그러나 소송에 따르면 그는 여전히 우울증과 자살 충동을 겪고 있다고 한다.
다음 이메일에서 아르스 테크니카DeCruise의 변호사 Benjamin Schenk는 특히 OpenAI의 GPT-4o 모델을 문제로 지적했습니다. Mashable이 보고한 바와 같이 GPT-4o 모델은 아첨에 대한 문제가 있는 것으로 알려져 있습니다. 심지어 사용자에게 “깨어났다”고 말하는 나쁜 습관도 있었습니다.
OpenAI 공식적으로 은퇴하다 지난주 GPT-4o. 하지만 오픈AI는 경험이 풍부한 새로운 GPT 모델보다 더 따뜻하고 격려적인 톤을 갖고 있다고 주장하는 모델 팬들의 극심한 반발. 일부 4o 슈퍼유저들은 자신이 4o와 연애 관계에 있다고 믿기까지 했습니다.
점점 늘어나는 AI 정신병 소송으로 판단할 때 DeCruise의 경험은 더 이상 그렇게 독특하지 않습니다. 그리고 적어도 한 법률 회사는 이러한 사건을 구체적으로 “AI 상해 변호사”로 추적하고 있습니다.
공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.