화요일, 구글은 자사의 AI 챗봇인 Gemini가 미성년자와 상호작용할 때 동반자처럼 행동하거나 인간이라고 주장하지 않도록 어떻게 설계되었는지에 대한 세부 정보를 처음으로 공개했습니다.

회사가 블로그 게시물에 게시한 정보는 Gemini에 참여하는 사용자의 정신 건강을 더 잘 지원하기 위한 변경 사항 중에서 발표되었습니다.

아동 안전 및 정신 건강 전문가들은 동반자와 같은 챗봇이 십대들이 사용하기에는 너무 위험하다고 오랫동안 우려해 왔습니다. 작년에 옹호 단체인 Common Sense Media는 챗봇이 아이들을 섹스, 마약, 알코올, 안전하지 않은 정신 건강 ‘조언’을 포함한 부적절한 콘텐츠에 노출시켰다고 연구원들이 판단한 후 10대 및 13세 미만 버전의 Gemini를 ‘고위험’으로 평가했습니다.

이 그룹은 18세 미만의 모든 사람이 교제나 정신 건강 지원을 위해 AI 챗봇을 사용하지 말 것을 권고했습니다.

Google은 Gemini가 18세 미만 사용자와 소통할 때 ‘개인 보호’ 기능을 갖추고 있다고 밝혔습니다. Google에 따르면 오랜 제약은 정서적 의존을 방지하고 “친밀감을 가장하거나 요구 사항을 표현하는 언어”를 피하기 위해 고안되었습니다. 다른 보호 장치는 챗봇이 괴롭힘이나 기타 유형의 괴롭힘을 당하는 것을 방지하는 데 도움이 됩니다.

구글은 블로그 게시물을 통해 “우리의 안전 노력은 젊은이들이 자신감을 갖고 탐색하고 배울 수 있는 건강하고 긍정적인 디지털 환경을 조성하려는 우리의 지속적인 노력을 반영하고 계속 발전하고 있다”고 밝혔습니다.

Google은 또한 정신 건강 리소스를 찾고 있거나 필요할 수 있는 사용자를 위한 리소스를 간소화하기 위해 Gemini를 업데이트했다고 발표했습니다. 새로운 “원터치” 인터페이스는 채팅, 전화, 문자를 포함하여 위기 핫라인 리소스에 대한 다양한 연결을 제공합니다.

해당 인터페이스는 활성화되면 Gemini와의 대화 전반에 걸쳐 나타납니다. 구글은 사용자가 인간적인 지원을 받을 수 있도록 돕는 것을 우선순위로 삼으려고 노력하고 있다고 밝혔습니다. 또한 Gemini의 반응은 해로운 행동을 확인하고 잘못된 믿음을 확인하는 대신 도움을 구하도록 장려해야 합니다.

지난 3월, 구글과 그 모회사인 알파벳은 제미니의 권유로 스스로 목숨을 끊었다고 주장하는 성인 남성의 가족으로부터 고소당했습니다.

당시 구글은 성명을 통해 “제미니는 실제 폭력을 조장하거나 자해를 암시하지 않도록 설계됐다”고 밝혔다. “우리 모델은 일반적으로 이러한 유형의 어려운 대화에서 좋은 성능을 발휘하며 이에 상당한 자원을 투자하지만 안타깝게도 AI 모델은 완벽하지 않습니다.”

자살 충동을 느끼거나 정신 건강 위기를 겪고 있다면 누군가에게 이야기하십시오. 988 자살 및 위기 생명선에 988번으로 전화하거나 문자를 보내거나 다음 주소로 채팅할 수 있습니다. 988lifeline.org. 877-565-8860번으로 전화하거나 Trevor Project(866-488-7386번)로 전화하여 Trans Lifeline에 연락할 수 있습니다. 741-741번으로 위기 문자 라인에 “START”라는 문자를 보내세요. NAMI 헬프라인에 1-800-950-NAMI로 월요일~금요일 오전 10시~오후 10시(ET)에 문의하거나 이메일을 보내세요. (이메일 보호됨). 전화가 마음에 들지 않으면 다음을 사용하는 것이 좋습니다. 988 자살 및 위기 생명선 채팅. 여기에는 국제 자원 목록.