조란 맘다니(Zohran Mamdani) 뉴욕시장은 오늘(9월 2일) 연단에 올라 전국 청중을 향해 “생성 AI에 대한 유예”라는 말을 전했다. 전국 학교에서 인공지능을 금지하기 위해 싸우는 사람들에게 이 순간은 거대한.
Mamdani는 뉴욕시 총리 Kamar Samuels와 함께 연설하면서 미국 최대 교육구를 위한 새로운 포괄적인 인간 우선 AI 정책을 발표했습니다. Mamdani는 “기술 산업은 AI 기반 조기 교육이 불가피할 뿐만 아니라 필요하다고 우리가 믿기를 원합니다”라고 말했습니다. “우리는 그렇게 보지 않습니다.”
3월에 출시된 시스템 전반의 AI 규칙서에 대한 업데이트인 새로운 지침에는 챗봇 금지와 유아원부터 8학년까지의 학생들의 AI 도구 사용을 1년 동안 중단하는 내용이 포함되어 있습니다. 또한 지침은 유아원부터 2학년까지의 개별화된 화면 시간을 금지합니다. 시는 시스템의 현재 교육 기술에 대한 감사 후 약 38개의 프로그램이 새로운 정책을 위반한 것으로 지역구에 의해 표시되었으며, 이는 완전히 제거되거나 AI 기능이 “비활성화”될 것이라고 밝혔습니다.
뉴욕시의 새로운 정책은 잠재적으로 전국적으로 주에서 가장 엄격한 AI 지침 중 일부입니다.
Meta는 마침내 연방 어린이 안전 법안을 지지합니까, 아니면 모두 홍보입니까?
전국적으로 AI 금지 촉구
뉴욕시 학교는 기술에 대한 유예와 교실에서의 기술 사용에 대한 강경한 입장을 요구하기 위해 함께 모인 부모, 교육자, 아동 안전 옹호자들의 전국적인 공동 노력에 따라 학생의 AI 사용에 제한을 두는 최초의 학교가 아닙니다.
그러한 그룹 중 하나는 환경 단체인 Climate Families NYC, Class Size Matters 및 학생 개인정보 보호를 위한 학부모 연합. AIM 연합은 뉴욕시 전투의 최전선에 있었습니다. 4월과 7월에 이 그룹은 뉴욕시 학교 시스템 전반에 걸쳐 제안된 AI 채택에 시장실에 개입할 것을 촉구하는 공개 집회를 열었습니다.
이 그룹은 시립 학교 전반에 걸쳐 2년간 AI 유예를 요구하는 시장실 청원서에 6,000명 이상의 서명을 수집했으며 NYC Artists Against AI 그룹을 대신하여 Mamdani에게 두 번째 편지를 보냈습니다. 편지에는 배우 엘리엇 페이지, 마크 러팔로 등 200명이 넘는 창작자들이 서명했으며, 브로드 시티 출연 일라나 글레이저, 아비 야콥슨.
AIM 연합 회원인 Kaliris Salas 박사는 “우리는 가장 어린 학습자가 인공 지능에 노출되지 않을 것이라는 사실에 매우 기대하고 있습니다.”라고 말했습니다. 인종적으로 그냥 공립학교발표 후 기자회견 중. “우리는 또한 나이든 학습자에 대해서도 걱정하고 있습니다.”
학교 내 AI를 둘러싼 치열한 전쟁
뉴욕시의 AI 정책에는 눈에 띄는 격차가 있다고 옹호자들은 말합니다.
AIM Coalition and Climate Families NYC 조직자인 Liat Olenick은 “솔직히 말하면 정책에 허점이 많습니다”라고 말했습니다. “하지만 올 가을에는 유치원생들이 챗봇과 대화하지 않을 예정인데 이는 엄청난 진전입니다. 우리는 올해 그러한 변화를 이루었습니다.”
첫째, 옹호자들은 1년이면 충분하지 않다고 말합니다. Kyle DeAngelis는 “우리 학교를 위한 증거 기반 AI 및 교육 기술 정책을 공동으로 개발하기 위해 부모, 학생, 교육자가 포함된 포용적이고 민주적이며 심의적인 프로세스를 요구하고 있습니다”라고 말했습니다. 평직 교육자의 이동. “그 과정이 필요한 깊이와 관심을 다해 진행하기에는 1년이 충분하지 않습니다.”
매싱 가능한 추세 보고서
새로운 정책은 Gemini 및 ChatGPT와 같은 일반 챗봇에 대한 액세스를 금지하는 한편, “박스형” 커리큘럼이라고 하는 교실 관리 및 교육 소프트웨어에 이미 존재하는 AI 기반 도구에 대한 분할도 포함합니다.
예를 들어, NYC 지도자들은 Google 검색에 대한 액세스에 대한 정보를 제공하지 않았습니다. 예를 들어, 아동 안전 옹호자들은 최근 genAI 챗봇 액세스에 대한 백도어로 표시했습니다. 또한 학생 개인 정보 보호를 위한 학부모 연합의 Leonie Haimson은 광범위한 반발에도 불구하고 학군에서는 여전히 YouTube 액세스를 허용하고 있다고 말했습니다.
PACES(Parents for AI Caution in Educational Spaces)의 Kelly Clancy 박사는 “우리는 미국에서 가장 큰 학군이며 구매력을 사용하여 AI를 끄는 도구를 요구할 수 있습니다”라고 말했습니다. “전국의 어린이들이 이러한 제품에 노출되기 위한 전제 조건으로 빅테크에 대한 규제가 필요한 이유이기도 합니다.”
이 정책은 여전히 생성적 AI의 무제한 직원 사용을 허용하고 옹호자들은 AI 제품, 계약 및 지출을 평가하기 위한 불분명한 메커니즘을 허용합니다.
중요한 점은 이 지침이 고등학교 교실에는 적용되지 않는다는 것입니다. 시는 9월 1일 AIM 연합 운영위원회 위원들에게 현재 180개 고등학교에서 AI 프로그램을 시범 운영하고 있음을 확인했습니다. 지도부는 어떤 학교가 프로그램에 참여했는지 밝히지 않았습니다. 연합은 기자들에게 고등학생의 새로운 AI 기술에 대한 커리큘럼이나 공식적인 거부 정책에 대한 명확한 답변을 얻지 못했다고 말했습니다.
NYC 고등학생들은 AIM 연합의 기자회견에 참여하여 교육구의 정책 확대를 촉구했습니다. 떠오르는 주니어이자 조직자인 아리아나 아메드 미샤(Ariana Ahmed Misha)는 “고등학생들이 뒤처져 있다는 사실이 속상하다”고 말했다.
학생이자 조직자인 Yelani Joseph은 “우리는 동의해야 합니다. 거절할 수 있는 선택권이 필요합니다”라고 말했습니다. Joseph의 학교는 교실에 있는 180개의 테스트 AI 도구 중 하나입니다. Ahmed Misha와 Joseph은 모두 뉴욕시 전역의 AI 활용 프로그램을 포함한 AI 정책을 개선해 달라고 총리에게 직접 호소했습니다.
9월 1일 회의에서 연합 회원들이 제기한 질문에 대한 응답에서 NYC 학교는 화면 시간 제한이 3~8학년에 대한 의무 사항이 아니라 권장 사항임을 분명히 밝혔습니다.
9월 2일 기자회견에서 시에서는 불과 하루 전에 금지하겠다고 밝힌 논란의 여지가 있는 AI 기반 소프트웨어인 Amira에 대한 학생들의 액세스를 취소하겠다는 약속을 철회했습니다. 이제 시는 앱의 특정 AI 기능에 대한 액세스를 제한할 계획입니다.
아동 안전 비영리단체 페어플레이(Fairplay)의 캠페인 책임자인 데이비드 모나한(David Monahan)은 성명을 통해 해당 정책에 예외가 너무 많았으며 인종 편견과 AI가 환경에 미치는 영향을 해결하지 못했다고 말했습니다.
NYC DSA Tech Action Working Group의 회원인 Edgar Alfonseca는 “아직 미해결 질문이 많이 있습니다”라고 말했습니다. Alfonseca와 기타 많은 아동 안전 옹호자들은 교실에서 Big Tech의 영향, 특히 학군과 AI 회사 간의 거래에 지출되는 높은 금액에 대해 비판적입니다. “우리는 이 정책이 교육 기술 및 거대 기술 기업이 공립학교 시스템 자금으로 엄청난 이익을 얻을 수 있다는 근본적인 문제를 해결하지 못한다고 봅니다.”
옹호자들은 진전에도 불구하고 여전히 경계심을 가질 필요가 있다고 생각합니다.
“그들은 비행기가 날면서 비행기를 만들고 있습니다”라고 Clancy는 말했습니다.
자세한 정보 확인