목차

첫 번째 컴퓨터 세대인 밀레니얼 세대는 Wikipedia의 신뢰성에 대한 강의실 강의를 많이 회상합니다. 우리는 확인되지 않은 포럼 게시물을 조심하라는 지시를 받았습니다. 우리는 월드와이드웹(World Wide Web)에서 주요 소스를 찾으라는 조언을 받았고, 그 시작 장소는 구글이었습니다.

이제 Gen Alpha가 AI 기반 교실에 들어서면서 Google 검색을 더 이상 신뢰할 수 없습니까?

아동 안전 감시단체인 Common Sense Media의 새로운 보고서는 Google의 현대화된 AI 기반 검색이 다음과 같은 결론을 내렸습니다. “허용할 수 없는 위험”을 초래합니다. 젊은 Google 직원들에게 실제로 보고서 작성자는 생성 AI 검색 엔진이 너무 위험하므로 Google 교육자가 AI를 끌 때까지 학생들이 사용을 완전히 중단해야 한다고 말합니다.

교실 위협으로서의 Google AI 검색

아동 안전 옹호자들은 수년간 학교에 교실 기술을 폐기할 것을 촉구해 왔습니다. 생성 AI가 교육 제품에 내장되면서 이러한 외침은 더욱 커졌습니다. 그러나 어린 학생들에게 ChatGPT와 같은 기능을 도입할 때 잠재적인 피해를 보는 것은 쉽지만, 간단한 Google 검색이 어린 학습자를 AI에 노출시키는지는 분명하지 않을 수 있습니다.

구글 출시 검색용 AI 모드 작년. AI 개요의 출시와 달리 AI 모드는 교육 계정을 포함하여 모든 사람이 즉시 사용할 수 있었습니다. Common Sense Media와 기타 전문가 Mashable은 이것이 놀라운 일이라고 말했습니다. 주로 Google의 AI 모드가 Gemini 모델(Google의 교육 기술 제품군을 포함하여 다른 Google 경험에서 연령 제한이 있는 모델)에 의해 구동되기 때문입니다.

Common Sense Media의 AI 프로그램 수석 이사인 Robbie Torney는 Google 검색은 거대 기술 기업을 위한 핵심 제품이자 교육자와 학생 모두에게 필수적인 도구라고 설명했습니다. “Google은 검색 공간과 검색 공간 모두에서 큰 규모의 플레이어입니다. 그리고 교육공간.”

이 회사는 전국 학교에 Chromebook과 같은 개인용 기기를 도입하는 1:1 기기 이동을 주도했습니다. 이제 Google Workspace for Education이 관리 제품군과 교실 리소스를 지원합니다. 이후 이 회사는 AI 구현의 주요 전도사가 되어 Gemini for Education을 도입하고 궁극적으로는 규모를 재조정했습니다. Google은 이제 유치원생부터 대학원생까지 수백만 명의 Workspace for Education, Chromebook 및 기타 Google 교육 제품 사용자를 보유하고 있습니다.

많은 사용자가 사용하고 있다는 사실조차 깨닫지 못할 정도로 생성 AI를 Google 제품의 기본으로 만듦으로써 Google은 수년간의 신뢰를 약화시켰다고 소식통은 Mashable에 말했습니다.

구글링은 더 이상 간단하지 않습니다.

첫째, 연구원들은 Google의 AI 개요가 잘못된 정보를 반복하는 경향이 있다는 사실을 발견했습니다. 아직 해결되지 않았습니다 기술 거대 기업에 의해. 챗봇의 기존 문제와 마찬가지로, 소식통은 Mashable에 이 제품의 디자인이 어린이는 물론 성인도 쉽게 혼란스럽게 할 수 있는 권위 있는 분위기를 암시한다고 말했습니다.

또한 Common Sense Media는 Google의 AI 도구가 미성년자 사용자의 숙제를 쉽게 완료했다는 사실을 발견했습니다. 전문가들은 이러한 오해의 소지가 있는 디자인, 다양한 반응, 챗봇의 유쾌한 특성(AI 모드 포함)이 결합되어 학생들이 자신도 모르게 부정행위를 하게 될 수 있다고 제안합니다. 최소한 Google에서 검색하는 것이 학습을 더 어렵게 만들 수 있다고 그들은 말합니다.

AI for Education의 부국장인 Amanda Bickerstaff는 “그들은 검색을 통해 발달상 부적절한 방식으로 AI를 주입하고 있습니다.”라고 설명했습니다. 이 조직은 교육 기관과 협력하여 AI 활용 프로그램을 구축하고 생성 AI 도구가 어린이 학습에 미치는 잠재적인 부정적인 영향을 줄입니다.

매쉬 가능한 광속

10세, 13세, 심지어 15세 어린이가 AI 개요를 보거나 AI 모드를 가져야 할 이유가 없습니다.

Bickerstaff는 AI 모드를 학생들이 안전하지 않은 생성 AI 경험에 액세스할 수 있는 백도어라고 불렀습니다. 또한 Bickerstaff는 이전에 신뢰할 수 있었던 정보 환경에서 챗봇 디자인의 최악의 부분 중 일부를 복제하여 다음 세대에 읽고 쓰는 능력을 모시는 교육자의 능력을 복잡하게 한다고 설명했습니다.

Bickerstaff는 “10세, 13세, 심지어 15세 어린이가 AI 개요를 보거나 AI 모드를 가져야 할 이유가 없습니다.”라고 말했습니다. “AI 활용 능력을 가르칠 때 첫 번째 단계는 의도적인 것입니다. 이러한 모드는 그 반대입니다. 챗봇 답변을 얻기 위해 검색 엔진으로 가는 것이 아니라 실제적인 것을 검색하러 갑니다.”

Common Sense Media의 보고서에 따르면 AI 개요와 Google의 새로운 검색 챗봇 AI 모드도 어린이에게 정신 건강 및 안전 위험을 초래할 수 있습니다.

Google은 검색에 대한 접근성을 유지하면서 AI 기능만 비활성화하는 옵션을 제공하지 않습니다. 이는 아이들이 학교에 있는 동안 가드레일이 설치되어 있어도 단순히 학업을 수행하는 것만으로도 생성 AI에 계속 노출될 수 있음을 의미합니다. 부모는 검색을 완전히 끄거나 자신이 관리하는 자녀 계정에 대해 Google.com을 차단할 수 있다고 Google은 설명합니다. 학교 관리자는 이론적으로 Workspace for Education 계정에 대해 동일한 작업을 수행하여 모든 사용자에 대해 Google 검색 도메인을 차단할 수 있습니다. Bickerstaff는 이를 교육자를 바위와 어려운 곳 사이에 두는 것으로 봅니다. “무슨 말씀이세요? 아이들이 웹 검색을 못한다고요?”

보고서가 발표된 후 Mashable에 보낸 성명에서 Google은 Common Sense Media의 스트레스 테스트가 좁고 모호하며 “제품 안전성과 유용성을 측정하는 효과적인 방법”이 아니라고 말했습니다. Common Sense Media는 Workspace for Education 계정을 테스트하지 않고 일반 계정만 테스트했습니다. 그러나 구글은 AI 기반 검색 경험이 모든 사용자에게 동일하다고 표현했다고 Torney는 말했습니다.

AI 검색이 학교에 법적 악몽이 될 수 있을까요?

이 때문에 Mashable 소식통은 이제 Google과의 관계를 끊을 때가 될 수도 있다고 말했습니다.

아동 안전 비영리 단체인 Fairplay for Kids의 캠페인 책임자인 David Monahan은 “Google의 AI 개요 및 AI 모드는 어린이 교육을 저해하고 위험한 허위 정보를 제공하며 어린이의 생명을 위험에 빠뜨리고 있습니다.”라고 말했습니다. “구글이 학생을 위한 AI 기능을 비활성화할 의사가 없다면 학교는 Google 제품 사용을 완전히 중단해야 합니다.”

Common Sense Media의 보고서는 학군에 놀라운 경종을 울릴 수 있다고 교실에서 기술 사용을 제한하는 학교 정책을 추진하는 전국 연합인 Schools Beyond Screens의 부국장인 Anya Meksin이 말했습니다. Schools Beyond Screens가 최근 선두에 섰습니다. 로스앤젤레스 통합교육구(LAUSD) 학교의 새로운 기술 사용 정책유치원 및 1학년 수업에 대한 화면 시간 금지를 포함합니다.

Fairplay와 Schools Beyond Screens 모두에 대한 요구를 주도하고 있습니다. 수년간의 유예 학교에서의 Gen AI 사용에 대해. Meksin은 옹호자들이 이미 챗봇뿐만 아니라 AI 검색 및 기타 통합 Google 제품에 대해 경고를 울렸다고 설명했습니다.

Meksin은 “우리는 Big Tech가 자사 제품으로 공교육을 식민지화하는 방식에 충격을 받았습니다.”라고 말했습니다. “우리는 이것을 긴급 상황으로 처리해야 합니다. 교육은 우리 민주주의의 기초이며, 그들은 고의로 우리 아이들이 미래에 이러한 기업에 맞서 싸울 수 없도록 무력화시키고 있습니다.”

LAUSD를 포함한 학군은 교실 기술에 대한 의존으로 인해 발생하는 문제를 해결하기 위해 고군분투해 왔으며 종종 자체 규정을 위반했습니다. 급증하는 AI 정책그녀는 설명했다.

Meksin은 “기술의 속도와 AI가 내장된 방식으로 인해 학군은 시행된 모든 정책을 즉시 위반하게 됩니다.”라고 말했습니다. 예를 들어, LAUSD의 새로운 정책은 13세 미만의 학생이 학교에서 생성 AI를 사용하는 것을 금지합니다. 하지만 학교 컴퓨터의 Chromebook 및 Google 검색과 같은 제품을 통해 학생들은 여전히 ​​AI 모드와 상호 작용할 수 있습니다.

우리는 이것을 긴급 상황으로 처리해야 합니다.

지난 20년 동안 K-12 학교는 수십억을 썼다 교실에 교육 기술을 적용합니다. Meksin은 Chromebook과 같은 Google 제품을 포함하여 이러한 광범위한 서비스를 완전히 비활성화하는 것은 불가능하다는 말을 여러 지역에서 들었다고 말했습니다.

Meksin은 “우리는 이 입장이 완전히 우스꽝스럽다고 생각합니다.”라고 말했습니다. “학군은 심각하고 지속적인 해를 끼치는 것으로 알려진 제품에 어린이를 노출시킬 책임이 있습니다.” 그녀는 교육 기관이 소셜 미디어 및 AI 회사와 동일한 법적 뜨거운 물에 들어갈 수 있다고 믿습니다.

구글과 그 모회사인 알파벳은 최근 위기에 직면했다. 첫 억울한 죽음 소송 Gemini와의 대화 후 사용자가 자살한 후. 알파벳이 소유한 유튜브도 발견됐다 플랫폼 설계 부주의로 유죄 미성년자 사용자의 정신 건강에 해를 끼칠 수 있습니다. Torney는 Google의 AI 기능 출시를 교실에 YouTube를 도입하는 것에 비유했는데, 이는 아동 안전 옹호자들로부터도 비난을 받았습니다.

Meksin은 더 큰 책임을 져야 하는 대신, 학군이 현재 학교 장치에서 사용할 수 있는 내장형 생성 AI 기능에 대한 더 강력한 제어부터 시작하여 Big Tech의 변화를 추진해야 한다고 믿습니다. “이러한 제품의 최대 구매자인 학군은 권한을 갖습니다. Google이 이를 거부할 경우 학군은 해당 제품의 사용을 중단하고 계약을 무효화해야 합니다.”