4월에는 메타 조용히 반전했다 브라질의 오래된 레즈비언 관계를 기리는 인스타그램 게시물을 삭제한 후. 삭제된 게시물은 본질적으로 성적인 내용이 아니며 미성년자에게 유해한 내용을 포함하지 않았습니다. 문제의 게시물은 레즈비언들이 “룸메이트”나 “여자 친구”로서의 관계를 숨겨야 했고 그들의 사랑이 공개 기록에서 지워졌던 역사상의 순간을 담은 스냅샷입니다. 그럼에도 불구하고 Meta는 해당 콘텐츠를 삭제했습니다.

메타는 증오심 표현 규칙을 인용했습니다. 감독위원회 나중에는 처음부터 분명했어야 했던 사실을 인정했습니다. 브라질 사례는 맥락, 재생 언어 또는 전체 게시물 자체를 읽을 수 없는 자동화 시스템에 의해 소외된 커뮤니티에 대한 과잉 집행의 사례였습니다. 콘텐츠는 LGBTQ+ 커뮤니티의 외부 개입과 옹호 후에야 복원되었습니다.

Mashable 101 팬 인기: 당신이 가장 좋아하는 크리에이터에게 투표하세요 오늘!

이 사건은 현재 협소한 콘텐츠 조정 오류로 취급되고 있지만, 정책 입안자들은 이것이 디자인을 수정하는 대신 플랫폼을 경찰 콘텐츠에 밀어붙일 때 무슨 일이 일어나는지에 대한 명확한 경고 신호라는 점을 인식해야 합니다. 전국적으로 주에서는 소셜 미디어에 대한 접근을 제한하거나 회사에 모호하게 정의된 “유해한” 콘텐츠를 제거하도록 압력을 가하여 “온라인에서 어린이를 보호”하기 위해 서두르고 있습니다. 그러나 브라질에서 일어난 일은 그러한 접근 방식에 따른 인적 비용을 보여줍니다.

플랫폼이 신속하고 대규모로 말을 제거하도록 인센티브를 받을 때 뉘앙스를 더 잘 판단할 수는 없습니다. 소셜 미디어는 무뚝뚝한 도구가 되며, 가장 먼저 타격을 받는 사람들은 이해하기 위해 인간적 맥락과 급진적인 공감이 필요한 이야기를 하는 사람들입니다.

국회의원이 실제로 어린이를 보호하고 싶다면 어떤 이야기가 수용 가능한지 결정하도록 플랫폼에 요청하는 것을 중단하고 끝없는 스크롤, 참여 기반 추천, 감시 기반 피드와 같이 애초에 해를 끼치는 핵심 디자인 선택을 규제하기 시작해야 합니다.

특히 LGBTQ+ 어린이와 신경 발산 어린이와 같은 기타 소외된 커뮤니티의 경우 이러한 구별이 중요한 이유는 다음과 같습니다. LGBTQ+ 청소년은 동료보다 온라인 공간에 의존하여 커뮤니티를 찾을 가능성이 훨씬 더 높습니다.정보, 지원 등은 집이나 학교에서 사용할 수 없거나 안전하지 않기 때문에 발생하는 경우가 많습니다. 그러나 그들은 또한 상당히 가능성이 더 높음 괴롭힘, 몸단장, 신상 털기 또는 자신이 찾지 않은 고위험 공간으로 밀려나는 등 안전하지 않은 온라인 상호 작용에 빠지게 됩니다.

호주에서는 잠시 후 16세 미만의 소셜 미디어 금지 장애인 권리 옹호자들은 다음과 같이 언급했습니다. 자폐 청소년은 그들이 이용할 수 있는 유일한 지원 및 동료 네트워크 중 일부에서 단절되었습니다.

매쉬 가능한 광속

추천 시스템은 취약성을 이해하지 못하지만 참여를 이해합니다. 퀴어 어린이가 커뮤니티를 검색하면 플랫폼은 클릭을 유발하는 모든 것을 공격적으로 증폭시켜 반응하는 경우가 많습니다. 일반적으로 이는 점점 더 성적인 콘텐츠, 성인 낯선 사람, 극단주의적 수사 또는 고립을 이용하는 방법을 정확히 알고 있는 약탈적 계정을 의미합니다.

무한 스크롤은 청소년의 이탈을 훨씬 더 어렵게 만든다고 합니다. 전자개인정보센터취약한 지역 사회의 사람들에게는 더욱 그렇습니다. 알고리즘 “친구” 또는 “계정” 제안은 청소년과 성인 사이의 경계를 무너뜨립니다. 약한 기본값으로 인해 차단, 음소거 또는 사라지기가 어렵습니다.

플랫폼은 사용자를 보호하는 것이 아니라 관심을 끌기 위해 만들어졌기 때문에 LGBTQ+ 청소년뿐만 아니라 청소년도 온라인에서 피해를 입을 수 있습니다. 부모가 걱정하고 변화를 옹호하는 것은 옳습니다. 그러나 내용 기반 프레이밍은 실제 문제를 놓치고 있습니다.

아이들이 온라인에서 직면하는 가장 큰 위험은 중재를 통과하지 못한 단 하나의 나쁜 게시물에서 오는 것이 아니라, 아이들이 요청하지 않은 콘텐츠를 아이들에게 푸시하고, 모르는 사람들과 연결하고, 경고 신호가 나타난 후에도 오랫동안 스크롤을 유지하는 자동화된 시스템에서 비롯됩니다.

주 및 연방 차원의 정책 입안자들은 이러한 위험을 직접적으로 해결하는 규정을 설계해야 합니다. 연령에 적합한 디자인 코드는 플랫폼에 어떤 음성을 허용할지 알려주지는 않지만 플랫폼이 어떻게 행동해야 하는지 알려줄 수 있습니다. 디자인 코드에는 행동 프로파일링 제한, 강력한 차단 도구, 원치 않는 권장 사항의 증폭 감소, 입소문 및 강박적인 사용을 늦추는 가드레일과 같은 보다 안전한 기본값이 필요합니다.

대중은 수정헌법 제1조와 제4조의 권리를 침해하기보다는 제품 개선을 옹호해야 합니다. 디자인 코드는 호기심이 많거나 외로운 아이가 나처럼 알고리즘적으로 위험에 빠져 커뮤니티를 검색하고 내가 누구인지 신경 쓰지 않는 시스템에 의해 위험을 향해 슬쩍 움직일 가능성을 줄입니다.

연령에 적합한 디자인 코드는 이러한 혼란에서 벗어날 수 있는 방법을 제공합니다. 사람들이 말하는 것이 허용되는 것보다 플랫폼이 구축되는 방식을 규제함으로써 디자인 코드법은 기업을 문화 검열관으로 만들지 않고도 피해를 줄입니다. 재생된 비방, 퀴어 역사 또는 정치적 발언을 해석하기 위해 플랫폼이 필요하지 않습니다. 대신 기업은 엔지니어링 중독과 위험을 중단해야 합니다.

더 많은 콘텐츠나 플랫폼 금지가 필요하지 않습니다. 유해한 시스템이 더 적게 필요합니다. 우리가 온라인에서 어린이, 특히 이미 가장 큰 위험에 처해 있는 어린이를 보호하는 것을 진지하게 생각한다면, 이 사례는 우리에게 정확히 어디서부터 시작해야 할지 상기시켜 줍니다.

이 글은 작성자의 의견을 반영한 것입니다.

레논 토레스는 전직이다. 댄스맘 공연자는 이제 온라인에서 젊은이들의 안전을 위해 싸우고 있습니다. 트랜스 운동가이자 서던캘리포니아 대학교 졸업생인 그녀는 자신의 대중문화 유창함과 생생한 경험을 활용하여 Heat Initiative에서 자신의 작업에 힘을 실어줍니다.차세대 기술을 보호하고 역량을 강화하기 위해 거대 기술 기업과 까다로운 플랫폼을 상대합니다.