새로운 차량은 Flock 카메라를 포함하여 감시를 차단한다고 주장합니다.

미국 전역에서 계속 증가하는 감시 네트워크에 대한 솔루션이 화려한 복장만큼 간단할 수 있을까요? 스타트업 noRecognition은 그렇게 믿고 있으며 다음에는 Flock 카메라를 채택할 예정입니다.

사이버 보안 연구원인 Bill Swearingen이 시작한 noRecognition은 AI 기반 탐지에서 물체(및 사람)를 거의 보이지 않게 만드는 컴퓨터 생성 패턴을 고안했습니다. AI 방지 디자인은 익명 착용자를 위한 티셔츠, 후드티, 머리 버프에 적용될 수 있습니다. 회사에 따르면 이 상품은 감시 기술을 손상시키는 반복할 수 없는 디자인으로 제한된 수량으로 판매된다고 합니다.

미국 전역의 커뮤니티가 Flock의 감시 장치에 반대하는 가운데 noRecognition은 자동차 맞춤화 세계에 특별한 디자인을 추가할 것을 제안했습니다. 이는 주 당국이 사용할 수 있는 방대한 개인 정보, 프로필 및 기타 데이터를 생성한 Flock의 AI 기반 자동 번호판 판독기(ALPR)를 속이려는 시도입니다.

Swearingen은 8월 6일 라스베거스에서 열린 Def Con 사이버 보안 컨퍼런스에서 추상적인 파란색과 노란색 랩으로 장식된 2009년형 Toyota Yaris라는 개념 증명 자동차를 선보였습니다. Swearingen은 TechCrunch와의 인터뷰에서 noRecognition의 패턴이 Axon이 구축한 Flock 및 법 집행 기관 신체 카메라를 지원하는 소프트웨어를 포함하여 11개의 오픈 소스 탐지 알고리즘에 대해 스트레스 테스트를 거쳤다고 설명했습니다.

그는 자신의 고향에 감시 카메라가 붐비는 것을 보고 영감을 받아 자동차 랩을 디자인하고 테스트했다고 출판물에 말했습니다. 그는 “사생활은 기본권이다.

매쉬 가능한 광속

이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.

적대적 패턴은 어떻게 작동하나요?

noRecognition은 적대적 미디어 또는 “적대적 노이즈”로 알려진 점점 증가하는 AI 방지 전략을 활용하고 있습니다. 일반적으로 이는 이미지나 비디오에 악성 데이터가 삽입되는 형태를 취하며, AI의 알고리즘 취약점을 악용하여 묘사된 개체를 잘못 분류하도록 합니다. 그러나 이러한 공격은 이미지가 촬영될 때 기계 학습을 유사하게 혼동시키는 패턴의 형태로 실시간으로 작동할 수도 있다고 지지자들은 말합니다.

적대적인 패턴이나 디자인을 통해 착용자는 여전히 AI 감시 시스템에 의해 기록될 수 있지만, 종종 기계 학습 자체에 의해 설계되는 모양과 색상의 특정 배열로 구성된 패턴은 유사하게 컴퓨터 비전 감지 시스템을 혼란스럽게 합니다.

이 전략은 지난 몇 년 동안 공공 장소에서 얼굴 인식 소프트웨어를 가릴 수 없도록 초현실적인 디자인으로 얼굴을 그리는 데 의존했던 시위자들에게도 사용되었습니다. 일반적으로 “컴퓨터 비전 현혹” 또는 “cv 현혹”이라고 불리는 이 메이크업은 연구원 Adam Harvey가 개발했으며 2020년 전 세계적인 시위가 진행되는 가운데 활동가 그룹에 의해 대중화되었습니다.

AI의 공공 생활 침해에 맞서 적대적 패턴을 대중화하는 데 진전이 있지만 그 효과는 확실하지 않습니다. 각 패턴은 특정 시나리오 및 탐지 알고리즘에 대해 테스트되어야 합니다. 이는 한 인스턴스에서 작동하는 패턴이 다른 인스턴스에서는 작동하지 않을 수 있음을 의미합니다.

많은 AI 방지 의류 디자이너들이 대규모 테스트를 제공하지 못했습니다. 그리고 AI는 점점 더 좋아지고 있습니다.