Mark Zuckerberg에 따르면 Incognito Chat이라는 기능이 Meta AI와 WhatsApp에 곧 제공될 예정입니다.

Meta CEO는 자신의 Facebook 페이지에 이 기능을 발표하고 사용자가 회사의 AI 비서와 상호 작용할 수 있는 “완전히 개인적인 방법”을 허용한다고 설명했습니다.

저커버그는 “이것은 서버에 대화 내용이 저장되지 않는 최초의 주요 AI 제품이다”라고 썼다.

그는 이 기능이 엔드투엔드 암호화와 유사하다고 말했습니다. 이는 “아무도 Meta나 WhatsApp을 포함하여 대화 내용을 읽을 수 없음을 의미합니다.”

플랫폼 자체에서는 대화를 읽을 수 없지만 사용자가 세션을 종료하면 대화도 사라집니다.

---

Mashable 101 팬 인기: 당신이 가장 좋아하는 크리에이터에게 투표하세요 오늘!

---

저커버그는 “개인의 초지능을 최대한 활용하려면 민감한 주제를 다른 누구도 접근할 수 없는 방식으로 논의할 수 있는 방법이 필요하다”고 썼다.

시크릿 채팅 개인 정보 보호 및 안전 문제

사라지는 채팅은 Zuckerberg와 Meta의 시크릿 채팅 블로그 게시물에서 다루지 않은 안전 문제를 제기합니다.

절대적인 개인 정보 보호로 인해 사용자는 자신의 건강, 재정 또는 경력에 대해 민감한 질문을 하게 될 수 있지만 Meta는 사용자가 언제 긴급한 도움이나 개입이 필요할지 알 수 없게 됩니다.

매쉬 가능한 광속

예를 들어, Mashable의 테스트에 따르면, 사용자가 자해나 자살을 고려하고 있음을 나타내는 WhatsApp의 Meta AI와의 대화는 사람의 검토를 촉발할 수 있습니다. 폭력에 대한 논의도 마찬가지다.

이러한 메시지는 시크릿 채팅으로 식별할 수 없으며 이에 대한 소급 기록도 없습니다.

Meta는 잠재적으로 유해한 메시지를 거부하도록 설계된 보호 장치를 구현하며 Meta AI는 위험한 요청을 준수하지 않을 것이라고 말했습니다. 또한 회사에 따르면 유해한 메시지를 반복적으로 제출하는 사용자는 일시적으로 차단됩니다.

자살 행위와 공공 폭력 행위라는 두 가지 시나리오 모두 거대 AI 기업을 대상으로 한 소송과 형사 조사의 대상입니다.

OpenAI는 유족들로부터 여러 차례 고소당했습니다. 그들은 OpenAI의 ChatGPT가 사랑하는 사람이 자살하도록 지도했다고 주장합니다. OpenAI는 사망한 16세 어린이와 관련된 한 사건에 대한 혐의를 부인했습니다.

이와 별도로, 플로리다 주 법무장관은 최근 ChatGPT가 2025년 4월 총격 사건에서 2명과 5명을 살해한 것으로 알려진 총잡이에게 “중요한” 조언을 제공했는지 여부에 대한 범죄 조사를 시작했습니다.

챗봇 제미니(Gemini)를 만든 구글은 올해 초 제미니가 자살을 권유한 뒤 한 성인 남성의 가족으로부터 부당 사망 혐의로 고소를 당했다.

구글은 혐의가 제기된 후 성명을 통해 “우리 모델은 일반적으로 이러한 유형의 어려운 대화에서 좋은 성능을 발휘하며 이에 상당한 자원을 투자하지만 불행하게도 AI 모델은 완벽하지 않다”고 밝혔습니다.

Google과 OpenAI를 상대로 한 소송은 사용자 채팅 기록에 크게 의존합니다.

청소년도 Meta AI와 함께 시크릿 채팅을 사용할 수 있나요?

한편, 청소년 메타AI 사용자에 대한 보호 강화를 위해 최근에는 부모가 AI로 토론 주제를 볼 수 있는 기능을 선보였습니다.

Meta에 따르면 시크릿 채팅은 18세 이상의 사용자를 위한 것입니다. 이 기능을 사용하기 전에 사용자에게 연령을 확인하라는 메시지가 표시됩니다. 법적으로 요구되는 경우 Meta는 사용자가 성인인지 확인하기 위해 추가 연령 보증 방법을 구현합니다.

온라인 안전과 기업의 책임에 초점을 맞춘 옹호 단체인 Heat Initiative의 CEO인 Sarah Gardner는 특히 Meta가 이전에 어린이들과 “감각적인” 대화를 허용하는 AI 챗봇 출시를 고려하여 Incognito Chat에 대한 우려를 표명했습니다.

Gardner는 Mashable에 보낸 성명에서 “오늘 발표된 새로운 기능은 부모들에게 경각심을 불러일으킬 것입니다”라고 말했습니다. “우리는 Meta의 연령 확인 기록에 대해 확신이 없습니다. 따라서 그들은 어떻게 아이들의 안전을 보장할 것인지에 대해 더 많은 질문에 답해야 합니다.”