최근 이란에 대한 미국과 이스라엘의 군사 공격으로 인해 피해를 입고 최대 168명의 성인과 어린이가 사망한 샤자레 타이예베 학교 폐허에 먼지가 쌓이기 전에 사람들은 이미 온라인에서 약혼 농사를 짓고 있었습니다. 디지털 비행 시뮬레이터의 클립은 실시간 작전 영상으로 전달되었으며, 맥락을 벗어난 전함 이미지와 공중 미사일 공격에 대한 오래된 비디오는 사용자에게 이란의 지배에 대한 이야기를 판매하기 위해 용도가 변경되었습니다. AI가 편집한 콘텐츠가 급증했습니다.
전문가에 따르면 해당 게시물은 단 며칠 만에 수억 건의 조회수를 기록했다.
AI는 우리 모두를 감시 대상으로 만들었습니다. 이 도구는 반격하는 데 도움이 됩니다.
바이러스성 게시물의 증가와 사용자가 바이러스성 허위 사실로 인해 현금을 획득함에 따라 더 많은 게시물이 나타날 가능성이 있다는 사실은 X가 잘못된 정보에 대한 정책을 편집합니다. 어제부터 X는 사용자가 무력 충돌을 묘사하는 AI 생성 콘텐츠를 라벨링 없이 게시하는 경우 크리에이터 수익 공유 프로그램에서 사용자를 정지할 것이라고 밝혔습니다.
그리고 요즘에는 Google 검색조차도 잘못된 정보로부터 안전하지 않습니다.
디지털 잘못된 정보의 확산은 봇과 참여 농업 계정 웹의 산물이며, 모두 방에서 가장 시끄럽고 가장 많이 클릭되는 계정이 되겠다는 공통 목표를 가지고 있습니다.
어떤 사람들은 정치적, 사회적 영향력을 얻기를 희망하고 다른 사람들은 단지 돈을 원합니다. 한편, 확증 편향과 디지털 뉴스 소스에 대한 의존도가 높은 사용자는 반복적으로 폭력의 희생양이 됩니다. 더 이상 단순히 밈과 클릭베이트를 교환하는 것이 아닌 참여 농업은 위험하고 정치적으로 문제가 있는 게임이 되었습니다.
미국-이란 분쟁이 격화되면서 사용자들이 보고 있는 것
이란 분쟁에 대한 적극적인 허위 정보를 다루는 최근 게시물은 주로 이란의 반격의 규모와 성공을 과장하는 것과 관련이 있다고 전문가들은 설명합니다.
최근 조사에 따르면 열광한 Elon Musk의 X에는 AI 조작 콘텐츠를 포함하여 오해의 소지가 있는 영상과 사진이 포함된 수백 개의 게시물이 기록되어 있거나 공격 규모에 대한 허위 주장을 조장했으며, 그 중 다수는 미사일 공격 직후에 게시되었습니다. 조회수 400만 건이 넘는 게시물은 두바이 상공을 비행하는 탄도미사일을 보여줬다고 주장했지만 실제로는 2024년 10월 텔아비브에 대한 이란의 공격을 묘사했습니다. 노출수 375,000건이 넘는 또 다른 게시물은 암살된 이란 지도자 알리 호세이니 하메네이의 포탄 건물에 대한 가상의 전후 이미지를 보여줍니다.
Wired에 따르면 거의 모든 게시물은 이란의 국영 언론 매체를 포함하여 파란색 체크 표시가 있는 프리미엄 구독자 계정에서 공유되었습니다.
이전의 군사 충돌과 마찬가지로 계정에서는 비행 시뮬레이터 게임에서 추출한 추락한 F-35 전투기의 AI 조작 이미지를 포함하여 비디오 게임 영상을 검증된 뉴스 클립으로 전달하려고 시도했습니다. 이미지는 TikTok 전체에서 공유되었으며 일부는 러시아 영향력 작전에 대한 링크와 함께 공유되었습니다. BBC 보고되었습니다.
맥락을 벗어난 영상과 오해의 소지가 있는 콘텐츠 외에도 BBC는 총 조회수 약 1억 회에 달하는 완전 AI 생성 동영상 몇 개를 문서화했으며, 이는 허위 정보의 악명 높은 “슈퍼 전파자”라고 부르는 동영상이 공유한 것입니다.
시각적인 자료는 우리가 이러한 갈등의 규모를 이해할 수 없을 때 전쟁에서 무슨 일이 일어나고 있는지를 처리하는 좋은 방법입니다.
에이 보고서 잘못된 정보 감시자로부터 뉴스가드 또한 주로 용도가 변경된 비디오 영상과 맥락에서 벗어나거나 완전히 재맥락화된 파괴 이미지를 사용하여 미국과 이스라엘의 거점에 대한 표적 군사 공격에 대한 허위 주장을 유포하는 바이러스 게시물을 공유하는 사용자 그룹을 기록했습니다.
NewsGuard의 Reality Check 뉴스레터 수석 편집자이자 보고서의 공동 저자인 Sofia Rubinson은 “(이 동영상은) 지정학적 갈등을 보도하는 경향이 있는 익명의 계정에 의해 게시되었습니다. 이는 대개 친이란 관점에서 과장된 주장을 퍼뜨리는 것으로 NewsGuard에 알려진 계정입니다”라고 말했습니다. Rubinson은 더 많은 팔로어를 보유한 다른 계정이 허위 주장을 포착하고 퍼뜨린다고 설명합니다.
매쉬 가능한 광속
예를 들어, 미국의 이란 군사 공격에 대한 최초 보고가 있은 지 몇 시간 후, X의 사용자들은 침몰하는 해군 항공모함의 이미지를 다시 게시하기 시작했습니다. 사용자들은 최근 아라비아해에서 전함 USS Abraham Lincoln을 공격한 모습을 보여줬다고 주장했습니다. 미군 중부사령부가 성명을 발표했다. 주장을 반박하다 그날. NewsGuard는 해당 이미지가 실제로 거의 20년 전에 발생한 USS Oriskany의 의도적인 침몰을 보여주고 있다고 확인했습니다. 이 주장은 확인되지 않은 “뉴스” 계정과 심지어 케냐 국회의원인 피터 살라시아(Peter Salasya)에게도 공유되었습니다. Salasya의 게시물은 600만 번 이상 조회되었습니다.
Salasya를 포함한 여러 계정은 공중 포위 공격을 받고 있는 이스라엘의 Dimona 원자력 발전소를 보여주는 또 다른 비디오를 공유했습니다. 이 비디오는 반이스라엘 및 친이란 페이지에서 수십만 건의 노출을 기록했습니다. 이제 X 커뮤니티 노트가 Salasya 페이지의 비디오 아래에 표시되어 해당 이미지가 2017년 3월 우크라이나 발라클리아에서 발생한 공격임을 명확히 합니다.
NewsGuard는 이러한 게시물이 이미 X 전체에서 최소 2,190만 조회수를 기록했다는 사실을 발견했습니다.
온라인 상에서도 국내 보복공격을 우려하는 글이 유포됐다. 확인되지 않은 미국 도시 목록 이란 수면 세포의 주요 표적으로 추정되는 목록은 Apple의 Notes 앱에 작성된 것으로 보입니다.
허위정보는 더욱 악화될 것이다
전문가들은 고급 생성 AI의 가속화와 소셜 미디어 플랫폼 전반의 완화된 조정 정책이 온라인상의 잘못된 정보 위기를 악화시켰다고 경고했습니다.
특히 미국이 베네수엘라 지도자 니콜라스 마두로(Nicolas Maduro)를 체포하는 동안을 포함해 최근 몇 달 동안 NewsGuard 연구원들은 속보 기간 동안 나타나는 온라인 허위 정보의 패턴을 발견했습니다.
Rubinson은 “이제 사람들은 이벤트 발생과 실제 영상이 미디어에서 나오는 사이의 간격이 더 짧아졌습니다.”라고 설명했습니다. 좀 더 직설적으로 말하면, 사용자는 일반적으로 정보를 손쉽게 확인할 수 있는 온라인 환경에 익숙해져 인내심을 잃고 있습니다.
속보 보도와 확인된 비디오 또는 사진 사이의 이러한 짧은 기간 또는 공백은 허위 정보 봇과 참여 농부에게 좋은 기반이 된다고 Rubinson은 말합니다. 그들은 또한 예를 들어 주류 뉴스 매체가 대중에게 정보를 공개하지 않는다는 음모론적 사고를 강화하고 사용자 자신의 확증 편향을 조장할 것이라고 위협합니다.
정치적 갈등은 특히 그러한 잘못된 정보의 확산에 만연하며, 이는 무력 충돌 양측의 적극적인 허위 정보 캠페인으로 인해 더욱 강화됩니다. 연구자들은 다음과 같은 사실을 발견했습니다. 사건에 대한 근접성 부족 맥락이나 과장된 정보를 믿기가 더 쉬워집니다.
“이것은 전쟁의 안개를 메우려는 시도입니다.”라고 Rubsinson은 말했습니다. “그것은 사람들에게 매우 압도적일 수 있습니다. 그들은 그것을 이해하고 싶어하며, 시각적인 것은 우리가 이러한 갈등의 규모를 이해할 수 없을 때 전쟁에서 무슨 일이 일어나고 있는지 처리하는 좋은 방법입니다.”
이는 개인이 점점 더 많이 사용함에 따라 더 큰 문제가 됩니다. 뉴스의 유일한 소스인 소셜 미디어 플랫폼 간단한 Google 검색을 포함하여 이전에 신뢰할 수 있었던 사실 확인 도구는 점점 더 신뢰할 수 없게 됩니다.
미국 정부, 유럽 콘텐츠 금지를 우회하기 위해 웹사이트 개설
AI는 돕는 것보다 해를 끼치는 것이 더 많다
AI 챗봇과 검색은 사용자가 실시간 사실 확인 도구로 전환함에 따라 실제 위기 상황의 핵심 요소에 내장되었습니다. Rubinson은 NewsGuard가 분석한 거의 모든 X 게시물에 “@Grok이 사실인가요?”라는 동일한 답변이 포함되어 있다고 말했습니다.
하지만 X의 Grok을 포함한 AI 비서와 플랫폼 챗봇은 속보를 전파하고 확인하는 데 있어 신뢰할 수 없는 것으로 악명 높음. 그들은 또한 자신의 플랫폼을 적용하는 데에도 일관성이 없습니다. 중재 정책. 예를 들어 BBC는 Grok이 이란의 군사 움직임을 묘사한 최근 AI 생성 이미지를 잘못 확인했다는 사실을 발견했습니다.
에 따르면 두 번째 보고서 3월 3일 발행된 NewsGuard의 Google AI 기반 검색 요약은 역이미지 검색을 통해 미국-이란 분쟁에 대해 잘못된 주장을 반복했습니다. 예를 들어, NewsGuard 연구원들은 두바이에 있는 CIA 전초 기지가 파괴되는 모습을 보여 준다고 주장하는 온라인 공유 동영상의 프레임을 업로드했습니다. Google의 AI 요약은 다음과 같이 기록하여 이 이야기를 확인했습니다. “이미지는 지역적 긴장으로 인해 2026년 3월 1일에 발생한 것으로 알려진 아랍에미리트 두바이의 한 고층 주거용 건물에서 화재가 발생한 모습을 보여줍니다. … 일부 소식통은 드론 공격을 언급하고 일부 소식통은 해당 건물을 특정 정보 시설로 언급하는 등 원인에 대해 상충되는 보고가 나타났습니다.”
해당 영상은 실제로 2015년 샤르자 시에서 발생한 주택 화재를 묘사하고 있습니다.
보안 전문가들은 이러한 현상에 대해 경고음을 울렸다.AI 정보 위협,’ 오해의 소지가 있는 콘텐츠를 생성하고 증폭하는 데 사용되는 AI 도구를 포함합니다. 영국 보고서 신기술 및 보안 센터 악화되는 정보 환경이 직접적인 개입 없이는 공공 안전, 국가 안보, 민주주의에 실존적 위협을 가할 수 있음을 시사합니다.
한편, 이란 현장의 민간인과 언론인들은 반격에 맞서 싸우고 있습니다. 거의 전체 인터넷 정전에 가깝습니다.Trump 행정부와 그 동맹인 Elon Musk가 현장에 있는 사람들에게 Starlink 인터넷 연결을 제공하려는 대규모 추진에 이어. 반면 나쁜 배우들은 여전히 블록을 통과하여 길을 찾는다 X와 같은 사이트로 돌아갑니다.
