AI 드리프트란? 이 치명적인 위험을 막는 방법.

뉴욕 지하철 터널과 자동차 곳곳에는 인공지능 제품 치퍼 광고가 도배돼 있다. 그러나 월요일 아침에는 ‘AI 표류를 중지하라’는 독특한 선언문과 함께 다른 유형의 AI 광고가 지하철 시스템에 등장했습니다.

슬로건 앞에는 익숙한 시나리오가 나옵니다.

“치료사에게는 말하지 않겠습니다. 하지만 AI에게는 말하시겠습니까?”

“네 애가 그랬어? 쓰다 그 에세이? 아니면 AI였나요?”

“AI 드리프트 중지”라는 후렴구는 비영리 Humane Technology 센터에서 시작한 캠페인의 일부입니다. 한 달 동안 캠페인 광고는 수많은 지하철 역과 차량에 게재됩니다. 이 캠페인에는 AI 드리프트에 대한 콘텐츠를 만드는 소셜 미디어 영향력 있는 인물도 등장합니다.

목표는 사람들이 AI에 너무 많은 아웃소싱을 하는 것에 대해 느끼는 불안한 느낌을 언급하고 본질적으로 인간의 작업과 노력에 AI를 사용하는 것을 재고하도록 유도하는 것입니다.

AI 드리프트란?

비영리단체 Humane Technology 센터의 전략 및 영향력 담당 수석 이사인 Camille Carlton은 Mashable과의 인터뷰에서 “우리는 AI 드리프트를 AI가 일상 생활의 더 많은 부분을 차지함에 따라 인간 능력이 점진적으로 침식되는 것으로 정의합니다.”라고 말했습니다.

사람들이 점점 더 AI를 사용하여 자신을 대신하여 생각하고, 소통하고, 창조하고, 행동함에 따라 비용이 발생한다고 Carlton은 설명했습니다. 잃어버린 것은 사람들의 삶에 목적을 부여하는 기술, 관계, 의미입니다.

“AI 드리프트”라는 문구는 실제 데이터에 노출된 후 기계 학습 모델의 정확도 저하를 설명하는 “모델 드리프트”라는 용어를 사용한 것입니다.

최근 몇 주 동안 일부 안전 연구자들이 주장한 것처럼 AI가 인류를 죽일 수 있다는 가능성에 비하면 개념으로서의 AI 드리프트는 이상하게 보일 수 있습니다. 그러나 칼튼은 이것이 치명적인 위험에 못지않다고 말했습니다.

그녀는 “AI와 관련하여 인류에 대한 매우 큰 위협에 대해 이야기할 수 있는 방법은 여러 가지가 있다고 생각합니다.”라고 말했습니다. 그 중 하나는 확실히 사람들이 자아 감각과 “삶의 기쁨”을 느낄 수 있는 능력을 잃는 느린 “인간성 침식”입니다.

AI 드리프트가 사람들에게 몰래 다가온다

“Stop the AI ​​Drift”는 개별 소비자의 인식을 높이기 위해 고안되었지만 Carlton은 점점 더 AI에 의존하는 사람들을 비난하지 않습니다.

매쉬 가능한 광속

결국 현재의 챗봇은 AI 드리프트를 장려하도록 설계되었다고 그녀는 말했습니다. 결혼 서약서 작성, 대인 관계 갈등에 대한 사용자 지도, 숙제 및 전문 과제 완수 등의 작업을 연중무휴 24시간 이용할 수 있습니다.

미국 대학 캠퍼스에서 AI의 위험성에 대해 발표하지만 AI 드리프트 중지 캠페인에는 참여하지 않는 Sloan Thompson은 학생들이 학업 및 개인 문제에서 AI에 의존하는 것을 자주 본다고 말했습니다. 그녀는 AI 드리프트가 때때로 사용자에게 “몰래 접근”한다고 말했습니다.

훈련 기관인 EndTAB의 교육 및 AI 이니셔티브 이사인 Thompson은 “일부 특정 영역이나 삶의 측면에서 AI를 사용하는 것 사이에는 마찰이나 장벽이 전혀 없으며 자연스럽게 더 친밀한 영역이나 더 개인적인 영역으로 흘러갑니다.”라고 말했습니다. 훈련 기관은 AI가 관계와 안전에 미치는 영향에 부분적으로 초점을 맞추고 있습니다.

AI 드리프트의 예

Thompson은 학생들이 AI를 너무 많이 사용하는 것에 대해 “갈등”한다고 종종 말하지만, 그렇지 않으면 뒤쳐질 것이라고 느낀다고 지적합니다.

실제로 매사추세츠 공과대학(Massachusetts Institute of Technology)이 발표한 AI에 대한 최근 보고서에 따르면 이 대학의 학생들은 마감일을 놓치는 것이 두려울 때 챗봇을 사용하고 싶은 유혹을 가장 많이 느끼는 것으로 나타났습니다.

톰슨은 특히 관계에 적용되는 AI 드리프트의 광범위한 스펙트럼을 목격했다고 말했습니다.

예를 들어, 한 데이트 앱은 사용자가 프로필을 생성할 때 팝업을 통해 제품에 AI를 직접 추가했습니다. 톰슨은 그러한 조언이 사람들이 자신을 표현하는 방식을 형성할 수 있지만 일반적으로 양성이라고 말했습니다.

스펙트럼의 반대편에는 사용자를 대신하여 데이트하는 AI 에이전트가 있습니다. 사용자는 온라인 데이트로 인해 피로감을 느낄 수 있으며, 애인과의 매칭을 위한 초기 작업을 회피하기 위해 에이전트를 사용할 수 있습니다. 톰슨은 데이트 상대와 그것을 공유하는지 여부는 또 다른 이야기라고 말했습니다.

그녀는 특히 사람들이 그것에 대해 낙인, 당혹감, 수치심을 느낄 때 매우 개인적인 AI 사용이 논의되지 않을 수 있다고 덧붙였습니다.

AI 표류를 막는 방법

Carlton은 AI 드리프트를 막는 것이 AI 의존도를 장려하는 제품 기능의 변화에 ​​달려 있다는 점을 분명히 했습니다.

여기에는 AI와의 매우 개인적인 관계로 이어질 수 있는 “위험하고 기만적인 의인화 디자인”을 금지하는 것이 포함됩니다. 기업은 또한 사용자를 위해 기본적으로 생각하기보다는 인간의 사고를 촉진하는 제품을 제공해야 할 뿐만 아니라 인간의 작업을 대체하는 대신 증대시키는 모델을 구축해야 합니다.

AI 드리프트 중지 캠페인의 팁

Stop the AI ​​Drift 웹사이트에서는 다음 전략을 포함하여 AI 드리프트를 방지하기 위한 팁을 제공합니다.

• 당신의 인생에 있는 사람들을 위한 매우 개인적인 대화를 저장하세요.

• 챗봇이 수행하기를 원하는 작업이 무엇이든 AI를 프로세스에 도입하기 전에 초기 노력을 “소유”하십시오.

• 매주 AI에서 하루를 쉬십시오.

어떤 “마찰”이 가치 있는지 파악하고 이를 지키세요.

Carlton은 또한 AI 사용자가 마찰이나 의미 있는 작업에 필요한 노력에 집중하여 AI 표류를 방지하려고 노력할 수 있다고 믿습니다. 칼튼은 실리콘밸리가 효율성과 최적화를 최우선으로 내세우더라도 인간의 발전과 만족스러운 삶을 사는 데 매우 중요하다고 말했습니다.

따라서 AI 사용자는 생산적이고 보람 있는 마찰로 이어지는 작업을 포기해서는 안 됩니다. 여기에는 확실히 대인 관계의 “파열 및 복구” 관리가 포함된다고 Carlton은 말했습니다. 또한 교실이나 직장에서 어려운 문제를 해결하는 것도 포함됩니다.

AI를 사용할 때 도구와 목발 사이의 경계가 모호해질 수 있지만 Carlton은 개인 성장으로 이어지는 마찰을 보호할 것을 권장합니다.

예를 들어 AI를 사용하여 여행을 계획하면 AI를 도구로 효과적으로 활용할 수 있습니다. 발생하는 논쟁에 대한 피드백을 제공하기 위해 그것에 의존 ~ 동안 그러나 여행은 AI 표류를 일으킬 것입니다.

“문제는 우리가 어떤 유형의 마찰을 유지하는지에 관한 것입니다.”라고 Carlton은 말했습니다. “과제를 수행하는 것이 어려운지 여부가 아니라 그 어려운 부분이 실제로 우리에게 무언가를 생산하는지 여부가 중요합니다.”