중국은 챗봇 동료의 감정적 영향을 규제하는 최초의 국가가 될 수 있는 새롭고 더 엄격한 AI 규정 초안을 작성하고 있습니다.

중국 사이버 공간 관리국이 작성하고 CNBC가 번역한 새로운 초안 제안에 자세히 설명된 이 정책은 미성년자가 챗봇 동반자와 소통하려면 보호자의 동의와 철저한 연령 확인을 요구합니다. AI 챗봇은 도박 관련, 외설적, 폭력적인 콘텐츠를 생성하거나 자살, 자해 또는 사용자의 정신 건강에 해를 끼칠 수 있는 기타 주제에 대한 대화에 참여하는 것이 허용되지 않습니다. 또한 기술 “공급자”는 중재자를 조난 중인 사용자와 연결하고 위험한 대화를 보호자에게 알리는 에스컬레이션 프로토콜을 도입해야 합니다.

중국 규제 당국은 콘텐츠 안전뿐만 아니라 정서적 의존성과 중독에 대한 채팅 모니터링을 포함해 정서적 안전에도 초점을 맞추는 것이 목표라고 밝혔습니다.

전문가들은 이는 특히 의인화된 AI 도구를 제어하기 위해 고안된 최초의 법률 세트 중 하나라고 말합니다. 이를 위해 이 규칙은 “인간의 성격을 시뮬레이션하고 텍스트, 이미지, 오디오 또는 비디오를 통해 사용자를 감정적으로 참여시키도록” 설계된 모든 AI 도구에 적용될 것이라고 CNBC는 보도했습니다.

중국이 제안한 규정은 지난 10월 개빈 뉴섬 주지사가 서명한 SB 243으로 알려진 최근 통과된 캘리포니아 AI법의 여러 조항을 반영합니다. 이 법은 더 강력한 콘텐츠 제한, 사용자에게 인간이 아닌 AI와 대화하고 있음을 상기시키는 것, 자살 논의를 위한 긴급 프로토콜을 요구합니다. 일부 전문가들은 이 법안이 미성년자 사용자를 보호하기에 충분하지 않아 기술 회사가 감독을 피할 여지를 남겼다고 비판했습니다.

한편, 트럼프 행정부는 “AI 안전에 관한 국가 프레임워크”를 위해 주 차원의 추가 AI 규제를 지연시켰습니다. 행정 명령은 AI 감독을 강화하는 주로부터 연방 인프라 자금 지원을 보류합니다. 연방 지도자들은 AI에 대한 규제가 증가하면 국내 혁신이 지연되고 글로벌 AI 경쟁에서 미국이 중국에 뒤처지게 될 것이라고 주장합니다.