OpenAI는 사용자가 자살 충동을 표현할 때 자사의 주력 AI 제품인 ChatGPT가 대응하는 방식을 개선하라는 강력한 법적, 대중적 압력을 받아왔습니다.

목요일, 회사는 사용자가 자해나 자살에 대해 심각하거나 걱정되는 방식으로 이야기할 경우 이를 알릴 성인을 지정할 수 있는 신뢰할 수 있는 연락처라는 기능을 출시했습니다.

선택적 기능은 신뢰할 수 있는 연락처가 사용자에게 연락하도록 권장할 뿐입니다. 채팅 기록이나 대화 세부정보는 공유되지 않습니다.

회사는 이 기능을 발표하는 블로그 게시물에서 “우리의 목표는 AI 시스템이 고립되어 존재하지 않도록 하는 것”이라고 밝혔습니다. “대신 사람들을 가장 중요한 실제 치료, 관계 및 자원에 연결하는 데 도움이 되어야 합니다.”

OpenAI는 ChatGPT가 삶을 끝내도록 지도했거나 심리적 고통에 대한 논의에 적절하게 반응하지 않은 것으로 알려진 ChatGPT 사용자의 가족이 부당한 죽음으로 여러 번 고소당했습니다. OpenAI는 첫 번째 소송에서 혐의를 부인했습니다.

지정된 신뢰할 수 있는 연락처는 ChatGPT로부터 이와 같은 초대를 받습니다.
신용: Courtesy OpenAI

플로리다 주는 또한 “자살 및 자해 조장”을 포함하여 “범죄 행위”와 ChatGPT의 연관성을 조사하고 있습니다.

Trusted Contact는 OpenAI의 웰빙 및 AI 전문가 위원회, 미국 심리학 협회 등 전문가들의 피드백을 바탕으로 개발되었습니다.

“사람들이 자신의 선택과 자율성을 유지하면서 신뢰할 수 있는 사람을 미리 식별하도록 돕는 것은 가장 중요한 순간에 실제 지원에 더 쉽게 다가갈 수 있도록 할 수 있습니다.” 미국심리학회 최고경영자인 아서 에반스(Arthur Evans) 박사는 성명을 통해 이렇게 말했습니다.

ChatGPT의 신뢰할 수 있는 연락처 작동 방식

1. 사용자는 ChatGPT 설정을 클릭하여 신뢰할 수 있는 연락처 프로세스를 시작할 수 있습니다.

2. 신뢰할 수 있는 연락처 양식을 통해 18세 이상의 성인 한 명을 추가할 수 있습니다.

3. 연락처에는 ChatGPT 계정이 필요하지 않습니다.

4. 지정된 연락처는 OpenAI로부터 신뢰할 수 있는 연락처로서의 역할을 설명하는 초대를 받게 됩니다. 기능을 활성화하려면 일주일 이내에 초대를 수락해야 합니다. 연락처는 연락 방법으로 전화번호나 이메일 주소를 공유할 수 있습니다. 해당 사람이 거절하면 사용자는 다른 성인을 추가할 수 있습니다.

5. OpenAI의 자동화된 모니터링 시스템이 자해에 대한 토론을 감지하거나 심각한 안전 문제를 나타내는 경우 ChatGPT는 회사가 신뢰할 수 있는 연락처에 알릴 수 있음을 사용자에게 경고합니다. 사용자 메시지는 신뢰할 수 있는 연락처에 대한 연락을 장려하고 대화를 시작할 수 있는 방법을 제공합니다.

6. 그런 다음 OpenAI가 설명하는 “특별히 훈련된 사람들로 구성된 소규모 팀”이 안전 문제를 검토합니다. 검토자가 심각한 안전 문제를 확인하면 ChatGPT는 신뢰할 수 있는 연락처에게 간단한 이메일이나 문자 메시지를 보냅니다. ChatGPT 계정이 있는 경우 인앱 알림을 받게 됩니다.

7. 알림에는 사용자 토론에 대한 세부정보가 포함되지 않습니다. 대신 신뢰할 수 있는 연락처에 사용자가 자해를 언급했다는 사실을 알리고 연락하도록 권장합니다. 메시지에는 민감한 대화를 나누기 위한 안내 링크가 포함되어 있습니다.

8. 사용자는 언제든지 신뢰할 수 있는 연락처를 자유롭게 제거하거나 편집할 수 있습니다. 신뢰할 수 있는 연락처는 ChatGPT 도움말 센터를 통해 자신을 삭제할 수도 있습니다.

공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.

자살 충동을 느끼거나 정신 건강 위기를 겪고 있다면 누군가에게 이야기하십시오. 988 자살 및 위기 라이프라인(988 Suicide & Crisis Lifeline)에 전화하거나 문자를 보내거나 988lifeline.org에서 채팅할 수 있습니다.. 877-565-8860번으로 전화하거나 Trevor Project(866-488-7386번)로 전화하여 Trans Lifeline에 연락할 수 있습니다. 741-741번으로 위기 문자 라인에 “START”라는 문자를 보내세요. NAMI 헬프라인에 1-800-950-NAMI로 월요일~금요일 오전 10시~오후 10시(ET)에 문의하거나 이메일을 보내세요. (이메일 보호됨). 전화가 마음에 들지 않으면 988 자살 및 위기 생명선 채팅을 사용해 보십시오. 다음은 국제 자원 목록입니다.