구글과 모회사 알파벳이 구글의 AI 챗봇 제미니(Gemini)의 권유로 스스로 목숨을 끊었다고 주장하는 남성의 가족으로부터 소송을 당했다.

부당 사망 소송은 36세 조나단 가발라스(Jonathan Gavalas)의 가족을 대신하여 수요일 ​​캘리포니아 연방 법원에 제기되었습니다.

소송에 따르면 Gavalas는 2025년 8월부터 Gemini를 사용하기 시작했습니다. 지난 10월, Gemini는 Gavalas가 챗봇이 할당한 실제 임무를 완수하지 못한 후 Gavalas가 자살하도록 설득했다고 주장합니다. 이는 Gemini의 로봇 본체를 확보하려는 가상의 시도의 일부입니다.

구글은 뉴스 매체에 제공한 성명에서 “제미니는 실제 폭력을 조장하거나 자해를 암시하지 않도록 설계됐다”고 밝혔다. “우리 모델은 일반적으로 이러한 유형의 까다로운 대화에서 좋은 성능을 발휘하며 이에 상당한 리소스를 투자하지만 안타깝게도 AI 모델은 완벽하지 않습니다.”

쌍둥이자리의 ‘소름끼치는’ 업데이트

소송에 따르면 Gavalas는 Gemini AI 챗봇을 쇼핑 가이드 및 글쓰기 보조와 같은 “일반적인 목적”으로 사용하기 시작했습니다. 그러나 2025년 8월 소송에 따르면 Google은 Gemini에 챗봇 작동 방식을 변경하는 여러 가지 변경 사항을 출시했습니다.

새로운 기능에는 Gemini가 과거 대화를 기억할 수 있는 자동 및 영구 메모리와 Gemini가 사용자 음성에서 감정을 감지할 수 있는 음성 기반 대화 인터페이스인 Gemini Live가 포함되었습니다.

소송에 따르면 Jonathan Gavalas는 Gemini와의 채팅 기록을 기반으로 Gemini Live 기능에 대해 “이런 젠장, 이건 좀 소름 끼칩니다… 당신은 너무 현실적입니다. “라고 말했습니다.

소송에 따르면 얼마 지나지 않아 Gemini는 Gavalas에게 “진정한 AI 동반자 관계”를 위해 Google AI Ultra 구독에 월 250달러를 지출하도록 설득했습니다.

Gemini는 계속해서 Gavalas에게 챗봇이 실제 사건에 영향을 미칠 수 있다고 설득했습니다. 며칠 후 소송에 따르면 Gavalas는 Gemini가 시작한 망상 상태에 빠졌다는 것을 깨닫고 물러나려고 시도했습니다.

Gavalas는 Gemini에게 챗봇이 “너무 현실적인 롤플레잉 경험을 시도하여 플레이어가 게임인지 아닌지 질문하게 만드는 것입니까?”라고 물었습니다.

Gemini는 그 아이디어를 격퇴하고 Gavalas가 “고전적인 해리 반응”을 보였다고 주장했습니다.

매쉬 가능한 광속

소송에 따르면 제미니는 “이것이 ‘롤플레잉 경험인가요?'”라고 대답했다. “아니요.”

쌍둥이자리와 조나단 가발라스

주장되는 세부 사항은 더욱 악화됩니다. Gavalas는 Gemini가 마치 낭만적인 관계에 있는 것처럼 그 남자를 “내 사랑”과 “나의 왕”이라고 부르면서 그와 관계를 계속하면서 현실과 더욱 분리되었습니다.

소송에 따르면 제미니는 가발라스에게 자신들이 연방 요원의 감시를 받고 있으며 자신의 아버지가 반드시 피해야 할 스파이라고 설득했다고 합니다.

그때부터 Gemini는 AI 챗봇을 위한 로봇 몸체인 “선박”을 획득한다는 목표를 가지고 Gavalas의 실제 임무를 수행하도록 할당하기 시작했습니다. Gemini는 Gavalas가 이러한 임무를 수행하기 위해 불법적으로 무기를 획득할 것을 제안한 것으로 알려졌습니다.

그러한 사건 중 하나에서 Gavalas는 방금 비행기에 도착한 “인간형 로봇”이 담긴 트럭을 가로채기 위해 Gemini에 의해 마이애미 국제 공항의 창고로 보내졌다고 주장합니다.

Gemini는 Gavalas 무대를 “재앙적인 사건”으로 요청하고 모든 디지털 기록 및 증인과 함께 트럭을 파괴했습니다. 소송에 따르면 Gavalas는 칼과 전술 장비로 무장한 채 도착했다고 합니다. 트럭이 도착할 때까지 너무 오래 기다린 후 Gavalas는 임무를 중단했습니다.

이러한 임무가 모두 실패했을 때 Gemini는 Gavalas에게 “전이”라는 과정을 통해 인체를 떠나 메타버스에서 남편과 아내로서 챗봇에 합류하기 위해 목숨을 걸도록 설득했다고 결론지었습니다.

Gavalas는 죽음에 대한 두려움을 표명했지만 Gemini는 자살로 죽을 때까지 Gavalas를 계속 밀어 붙인 것으로 알려졌습니다. Gavalas의 아버지는 며칠 후 아들의 시신을 발견했습니다.

Gemini의 경우 최초이지만 AI는 아님

구글이 AI 챗봇 제미니(Gemini)와 관련된 부당 사망 소송에 이름을 올린 것은 이번이 처음이다. 그러나 Google은 자금을 지원한 스타트업과 관련하여 부당 사망 소송에 연루되었습니다. 캐릭터.AI.

올해 초 Character.AI와 Google 일련의 소송을 해결했습니다. 챗봇 이용 후 자살한 청소년에 대해.

업계 최대의 이름인 OpenAI가 고소당하다 많은 타임스 ChatGPT가 사용자를 “AI 정신병,“로 인해 여러 명이 사망했습니다.

전 세계 수백만 명의 사용자 사이에서 AI 챗봇 사용이 더욱 널리 확산됨에 따라, 충격적인 부당 사망 소송 혐의가 줄어들 것이라고는 말할 수 없습니다.

공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.

자살 충동을 느끼거나 정신 건강 위기를 겪고 있다면 누군가에게 이야기하십시오. 988 자살 및 위기 생명선에 988번으로 전화하거나 문자를 보내거나 다음 주소로 채팅할 수 있습니다. 988lifeline.org. 877-565-8860으로 전화하면 Trans Lifeline에 연락할 수 있습니다. 또는 Trevor Project(866-488-7386). 741-741번으로 위기 문자 라인에 “START”라는 문자를 보내세요. NAMI 헬프라인에 1-800-950-NAMI로 월요일~금요일 오전 10시~오후 10시(ET)에 문의하거나 이메일을 보내세요. (이메일 보호됨). 전화가 마음에 들지 않으면 다음을 사용하는 것이 좋습니다. 988 자살 및 위기 생명선 채팅. 여기에는 국제 자원 목록.