캘리포니아의 새로운 아동 안전법은 AI, 소셜 미디어 회사를 겨냥합니다.

캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)의 서명은 현재 소셜 미디어와 AI 거대 기업을 대상으로 하는 12개의 새로운 주 법안을 포함하여 수많은 새로운 기술 법률에 포함되어 있습니다.

기존 아동 안전법을 강화하는 것 외에도 Meta 및 OpenAI와 같은 업체의 제품을 규제하려는 주정부의 최근 노력에는 16세 미만 어린이를 위한 소셜 미디어를 효과적으로 금지할 수 있는 조항이 포함되어 있습니다.

이러한 정책 움직임으로 캘리포니아는 젊은 사용자의 소셜 미디어 액세스를 최초로 금지한 호주와 같은 국가 정부와 동등하게 될 것입니다. 실제로 이 법은 집행하기 어려운 것으로 입증되었습니다.

매우 기대되는 아동 온라인 안전 법안은 업계가 소셜 미디어 알고리즘, AI 챗봇, 교실에서 발견되는 교육 기술을 포함하여 청소년의 마음에 대한 거대 기술의 영향력을 억제해야 한다는 압력에 직면하고 있는 가운데 나온 것입니다.

Newsom은 보도 자료에서 “우리 아이들의 안전은 기술에 관한 모든 대화의 중심에 있어야 합니다. 혁신이 더 빠르게 진행됨에 따라 우리의 보호도 보조를 맞춰야 합니다”라고 말했습니다.

캘리포니아주, ‘중독성’ 소셜미디어 단속

주요 법안인 AB 1709와 AB 2는 십대들이 소셜 미디어와 상호 작용할 수 있는 방식에 대해 더 강력한 제한을 두고 있습니다. AB 1709에 따라 소셜 미디어 플랫폼은 16세 미만의 어린이가 유해한 기능이 포함된 소셜 미디어에 액세스하는 것을 허용할 수 없습니다. 이 법안은 개인화된 피드 및 비디오 자동 재생과 같은 “중독성” 요소를 구체적으로 강조합니다.

플랫폼은 이러한 기능을 제공하기 전에 사용자의 연령을 확인해야 하며, 이는 보다 강력한 연령 확인 도구에 대한 요구를 불러일으킬 수 있습니다.

AB 2에 따라 플랫폼은 아동 피해에 대해 아동 1인당 5,000달러에서 100만 달러에 이르는 재정적 책임을 질 수도 있습니다.

아동 안전 비영리 단체이자 법안 후원자인 Common Sense Media는 언론에 보낸 성명에서 Newsom의 결정에 박수를 보냈습니다. “오늘은 캘리포니아 전역의 어린이와 부모에게 큰 승리입니다.”라고 이 단체는 썼습니다. “이 싸움의 추진력은 기술 회사들의 본거지인 이곳으로 옮겨졌습니다.”

광범위한 소셜 미디어와 챗봇 사용으로 인해 자살한 어린이의 부모들은 Parents RISE의 전무이사인 Julianna Arnold를 포함하여 이 법안을 지지하는 데 힘을 모았습니다. Arnold는 언론에 보낸 성명에서 “우리는 경청했을 뿐만 아니라 우리의 실제 경험을 진지하게 받아들이고 이를 입법화할 수 있게 해준 Lowenthal 의원에게 감사드립니다”라고 말했습니다.

새로운 규정에 따라 플랫폼은 연령 제한이 있는 청소년 계정에 더 많이 의존할 수 있습니다. 그러나 연구에 따르면 십대들은 종종 연령 제한을 무시하는 방법을 찾는 것으로 나타났습니다.

매쉬 가능한 광속

ParentsTogether Action의 온라인 안전 캠페인 이사인 Shelby Knox는 “수년간 기술 업계에서는 부모들에게 더 면밀히 모니터링하고, 더 많은 자녀 보호 기능을 설정하고, 끊임없이 변화하는 제품을 따라잡는 것이 답이라고 말해왔습니다.”라고 말했습니다. “그러나 부모는 아이들의 참여를 유지하도록 설계된 플랫폼 설계에서 벗어나는 방법을 부모가 통제할 수 없습니다.”

뉴섬, AI 기업의 지원을 받아 AI 기업을 노린다?

AI 개발자들은 제안된 규제 노력을 억제하기 위해 지난 몇 년 동안 캘리포니아 지도부에 로비를 펼쳤습니다. 그들은 작년에 유사한 아동 온라인 안전 법안에 대한 Newsom의 거부권을 포함하여 어느 정도 성공을 거두었습니다.

내부자에 따르면 OpenAI CEO인 샘 알트먼(Sam Altman)은 업계 리더들이 점점 더 좁은 범위를 추진하자 지난주 새로운 법안 패키지에 대해 뉴섬에게 직접 호소했다고 합니다.

그러나 최근 몇 달 동안 더 많은 기업이 아동 안전법에 대해 예전보다 덜 단호하게 반대한다는 신호를 보냈습니다. 특히 대부분의 기업이 점점 더 힘든 법정 싸움과 막대한 재정적 처벌을 받고 있기 때문에 더욱 그렇습니다. 메타 관계자는 최근 진행 중인 소송을 피하기 위해 어린이 온라인 안전법을 통과시킬 것을 암시했습니다. 그리고 OpenAI는 나중에 캘리포니아가 제안한 AI 법안에 찬성했습니다.

이 논쟁이 진행되는 동안 Newsom은 AI 회사에 대해 더 강력한 안전 요구 사항을 시행하려고 시도하는 아담의 법칙이라고도 알려진 법률 SB 1179에 서명했습니다. 이 법안은 ChatGPT와 협의한 후 자살로 사망한 10대 청소년 Adam Raine의 이름을 따서 명명되었습니다. 레인의 부모는 유해한 챗봇 행동 혐의로 AI 회사를 상대로 최초의 부당 사망 소송을 제기했습니다.

아담의 법칙에 따르면 동반 챗봇 개발자는 연간 아동 안전 위험 평가를 실시 및 발표하고 제품을 독립 감사에 제출해야 합니다. 개발자는 챗봇을 위한 위기 대응 프로세스도 만들어야 합니다. 많은 기업이 이미 안전 대책을 마련해 두었지만 가드레일은 청소년에게 유해한 챗봇 행동을 완전히 예방하지 못했습니다.

레인의 부모인 매트 레인(Matt Raine)과 마리아 레인(Maria Raine)은 언론 성명을 통해 “우리는 아직 아담이 없는 삶에 적응하지 못했지만 그의 유산 중 하나가 미성년자들을 위해 AI 챗봇을 더욱 안전하게 만드는 데 도움을 준 것이 기쁘다”고 말했다. “우리는 규제되지 않은 AI 동반의 위험이 더 논의된 다른 AI 위험과 함께 바로 상위에 있다고 믿으며, 아담의 법칙이 생명을 구하고 다른 피해를 예방할 것이라고 확신합니다.”

또 다른 법안은 ‘아동 성적 착취’에 대한 주의 정의를 ’18세 미만의 사람이 성행위를 하는 모습을 묘사하는 디지털 방식으로 변경되거나 AI로 생성된 모든 내용’을 포함하도록 확장합니다.

안전 옹호자들의 우려를 불러일으킨 동반 챗봇이 내장된 어린이 장난감은 이제 SB 867에 따라 캘리포니아에서 금지됩니다.

새로운 개인정보 보호 규정은 K-12 학교에 배포된 AI 시스템의 학생 데이터 사용에 대해 더 큰 제한을 추가할 것입니다. 일부 도시에서는 K-12 교실에서 AI를 전면적으로 금지하는 움직임을 보이고 있습니다.

개인 정보 보호 단체는 여전히 하위 영향에 대해 우려하고 있습니다.

아동 안전 단체는 AB 1709와 같은 법안을 제정하기 위한 수년간의 노력의 승리를 축하하는 반면, 시민 사회 단체는 이 법안이 표현의 자유에 미치는 영향에 대해 여전히 우려하고 있습니다.

전자프론티어재단(Electronic Frontier Foundation)은 AB 1709를 “의도는 좋지만 심각한 결함이 있는 법안”이자 “대규모 사생활 보호와 언론의 자유에 대한 악몽”이라고 불렀습니다. 지난달 이 조직은 검열에 대한 우려가 적절하게 해결될 때까지 이 법안을 거부할 것을 뉴섬에게 촉구했습니다.

금지에 초점을 맞추는 대신 조직은 9월 10일 보도 자료에서 “우리는 기술 법률을 올바르게 만들기 위한 노력을 배가하고 감시 비즈니스 모델을 대상으로 하는 새롭고 강력한 개인 정보 보호법의 통과를 지원해야 합니다. 이것이 우리가 AI 시대의 모든 사람을 보호하는 방법입니다.”라고 썼습니다.

캘리포니아의 새로운 법률은 내년부터 발효될 예정입니다.