OpenAI는 이달 초 캐나다 브리티시컬럼비아 주 텀블러 리지에서 발생한 총격 사건으로 범인을 포함해 9명이 사망한 사건 이후 안전 프로토콜과 법 집행 기관과의 커뮤니케이션에 대한 변경 및 정밀 검사에 대해 밝혔습니다.

총격 사건의 가해자는 ChatGPT 계정을 가지고 있었습니다 정지된 OpenAI가 사용자로부터 “잠재적인 실제 폭력의 징후”를 나타내는 콘텐츠를 감지한 후 2025년 6월에 발생했습니다. OpenAI는 해당 사용자를 금지하고 당국에 경고하는 것을 고려했습니다. 그러나 OpenAI는 사용자가 신뢰할 만한 조치를 취할 계획이 없다고 판단한 후 법 집행 기관에 알리지 않기로 결정했습니다.

당국에 알리지 않기로 한 OpenAI의 결정이 주요 이슈가 되었습니다. 우려 캐나다 정부의 말입니다.

OpenAI는 신뢰할 수 있는 위협을 처리하기 위한 프로토콜을 갖고 있었지만 이제 회사는 더 많은 일을 할 것이라고 밝혔습니다. 에서 공개 서한 OpenAI의 글로벌 정책 담당 부사장인 Ann M. O’Leary는 캐나다 정부에 대해 구체적인 정책 변경 사항을 제시하지는 않았지만 이미 변경 사항이 구현되고 있으며 더 많은 변경 사항이 적용될 것이라고 언급했습니다.

또한 O’Leary는 OpenAI 프로토콜에 대한 또 다른 감독도 공유했습니다. OpenAI의 공개 서한에 따르면 Tumbler Ridge 총격범은 두 번째 ChatGPT 계정을 개설했는데, 회사는 총격 사건이 발생하고 총격범의 이름이 공개된 후에야 이 계정을 발견했습니다. OpenAI는 발견 후 해당 계정을 경찰과 공유했습니다.

OpenAI는 공개 서한에서 법 집행 기관 추천 프로토콜을 “지속적으로 강화”할 것이라고 밝혔습니다. 회사는 어려운 사례를 더 잘 평가하고 대화가 위험해질 수 있는 경우를 더 잘 평가하기 위해 정신 건강 전문가와 협력하고 있다고 말했습니다.

OpenAI는 또한 “현실 세계의 폭력” 가능성이 있는 사례를 조회하기 위해 캐나다 법 집행 기관과 직접 연락 창구를 구축하고 있다고 밝혔습니다.

ChatGPT는 또한 커뮤니티 내에서 현지화된 지원을 위한 리소스를 제공함으로써 어려움을 겪고 있거나 금지된 행동을 추구하는 사용자에게 도움을 제공하도록 조정될 것입니다.

또한 OpenAI는 범인이 두 번째 계정을 개설할 수 있는 프로토콜을 다루고 있다고 밝혔습니다. 회사는 반복적인 정책 위반자를 탐지할 수 있는 시스템을 갖추고 있으며 “우리의 보호 장치를 회피하려는 시도를 더 잘 방지하고 가장 위험한 위반자를 식별하는 데 우선 순위를 두기 위해 탐지 시스템을 강화”하기 위해 노력하고 있다고 밝혔습니다.

Mashable은 이러한 정책 개편에 관한 추가 정보를 얻고 이것이 미국의 회사 정책에도 영향을 미치는지 알아보기 위해 OpenAI에 연락했습니다. 답변을 받으면 이 내용을 업데이트하겠습니다.