최신 AI 기반 사기 경고: 온라인 사기꾼들은 Taylor Swift 및 Rihanna를 포함한 할리우드 유명 인사의 AI 딥페이크를 사용하여 TikTok 사용자가 사기 보상 프로그램에 가입하도록 유도하고 있습니다.

Copyleaks의 새로운 보고서에 따르면 TikTok에서는 사용자가 “사기 또는 악의적인 서비스”에 가입하도록 유도하는 것으로 보이는 Kim Kardashian과 같은 AI로 생성된 유명인의 가짜 레드 카펫 비디오가 증가하는 것을 확인했습니다. 그 예로는 신비한 “TikTok Pay” 기능을 광고하는 Swift의 심야 클립과 보상을 위한 조회수 프로그램을 실감하는 Rihanna의 언론 순회 클립이 포함됩니다.

일반적으로 불안한 얼굴 움직임과 동기화되지 않은 오디오로 인해 합성 모방은 완전히 설득력이 없지만 사기꾼 혐의를 막을 수는 없습니다. 많은 클립이 TikTok 브랜딩을 사용하고 텍스처 필터를 추가하여 플랫폼의 AI 감지 도구를 우회하는 것처럼 보입니다. 사용자가 동영상을 클릭하면 개인 식별 정보를 요청하는 제3자 사이트로 리디렉션됩니다.

Copyleaks는 소셜 미디어 플랫폼 전반에 걸쳐 AI를 활용한 딥페이크 사기가 증가했다고 보고했으며, 그 중 일부에는 유명인에 대한 과도하게 성적인, 합의되지 않은 딥페이크가 포함됩니다. Meta는 최근 미국 소비자 연맹을 대신하여 회사가 Facebook 광고 사기로 이익을 얻었다고 주장하는 집단 소송의 대상이 되었습니다.

한편 할리우드는 합의되지 않은 연예인 딥페이크에 대한 포괄적인 해결책을 아직 마련하지 못했습니다. 이번 주 초 Swift는 AI가 생성한 딥페이크와 사후 레거시 프로젝트에 대한 대중의 관심이 높아지는 가운데 자신의 목소리와 초상을 상표권 신청한 것으로 알려졌습니다. 다른 연예인들도 마찬가지였다.