지난 7월, 오픈AI CEO 샘 알트만 바이럴 팟캐스터 Theo Von에게 말했습니다. AI 도우미와의 대화가 인간 옹호자와의 대화와 동일한 법적 보호를 받지 못한다는 것은 “망가졌다”는 것입니다.
“AI와 대화하는 것은 변호사나 의사와 대화하는 것과 같아야 합니다. 사회가 이 문제를 곧 알아낼 수 있기를 바랍니다.” Altman 게시됨 X에게.
이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.
CEO는 거듭 주장했다 ~을 위한 더욱 강력한 개인정보 보호 국가가 다음과 같이 광고하는 AI 봇을 단속하고 있음에도 불구하고 사용자와의 챗봇 대화를 위해 학의 아니면 법률 전문가.
그러나 Altman과 같은 사람들이 챗봇 대화와 법원 사이에 더 강력한 보호막을 요구하는 유일한 이유는 사용자 개인 정보 보호 때문이 아니라고 법률 전문가가 Mashable에 말합니다. 또한 이기적인 동기도 있습니다. 법원이 LLM을 건드릴 수 없는 상태로 유지된다면 AI 사용자뿐만 아니라 회사도 보호를 받게 됩니다. 실제로 Von에 대한 Altman의 발언은 OpenAI 자체의 법적 문제로 인해 촉발되었을 수 있습니다. 법원은 AI 거인에게 저장을 요구하고 결국 사용자 채팅 로그를 법적 발견으로 넘겨줄 것을 요구했습니다. 이는 AI가 법원의 치료사, 의사 또는 변호사의 눈에 동일하게 보일 경우 차단될 수 있는 조치입니다.
이를 달성하는 한 가지 방법은 무엇입니까? 우리의 건강부터 시작하여 AI 안내를 인간 전문가와 동일한 존경심으로 다루는 문화적 변화를 추진하세요.
ChatGPT 건강을 사용하시나요? 이것을 먼저 읽어보세요.
“AI 특권”이란 정확히 무엇입니까?
“특권은 변호사와 법적 맥락에서 특정한 의미를 갖습니다.”라고 선임 변호사인 Melodi Dinçer는 설명했습니다. 기술 정의법 프로젝트. 예를 들어, 표준 변호사-의뢰인 특권뿐만 아니라 정신과 의사-의뢰인 특권 및 배우자 특권이 있습니다. 성직자와의 통신, 정치적 투표, 영업 또는 국가 비밀도 법원에서 인정됩니다. 이 모든 경우에 두 당사자 간의 의사소통은 기밀로 유지되며 법원 절차에서 허용되지 않습니다.
주에는 주 법원에서 진행되는 사건에 대해 주법이 적용되는 고유한 특권 규칙도 있습니다. Dinçer에 따르면 일부 주에서는 귀하와 일반의, 정신과 의사 사이의 대화에 특권을 부여한다고 합니다. 그러나 많은 주에서는 그렇지 않습니다. 이것은 모두에서 설명됩니다. 규칙 501 ~의 연방 증거 규칙Dinçer는 이를 통해 주 법원이 이미 인정한 특권을 연방 법원이 광범위하게 인정할 수 있다고 설명했습니다.
예를 들어, 귀하가 소송을 당하는 경우, 소송 상대방은 치료사의 세션 메모를 인정할 수 없으며, 귀하나 귀하의 변호사 또는 배우자 사이의 비밀 대화를 인정할 수 없습니다.
데이터 개인 정보 보호 및 AI 위험 관리 변호사이자 창립자인 Lily Li는 “(클라이언트 특권)의 전체 목적은 이러한 제공업체가 귀하에게 최고의 조언을 제공할 수 있도록 이들 제공업체와 솔직하고 개방적인 토론을 할 수 있도록 하는 것입니다.”라고 말했습니다. 메타버스 법칙Mashable에게 말했습니다. “그리고 사회적 관점에서 우리는 개인이 변호사, 의사, 심리학자에게 솔직하고 개방적이며 정직하기를 원합니다.”
하지만 이는 디지털 관계가 아닌 인간관계에 부여된 조건이다. AI 챗봇이 인간 치료사나 법률 컨설턴트만큼 효과적이라고 믿는다면 그러한 커뮤니케이션도 보호되어야 합니까? Altman과 같은 일부 AI 개발자는 그렇다고 말합니다.
AI 챗봇: 도구인가, 사람인가?
Li는 “Open AI 저작권 소송을 통해 이 문제가 더욱 명확해졌습니다.”라고 말했습니다. 그녀는 최근에 한 시리즈를 언급하고 있습니다. 통합 지난 몇 년간 출판사, 예술가, 작가들이 OpenAI를 상대로 총 16건의 저작권 소송을 제기했습니다. 공정 사용에 대한 질문과 LLM 교육에 사용되는 데이터를 처리하는 방법을 포함하는 당면한 문제는 법원의 관점에서 AI의 인식을 평가하기 위한 일종의 온도 측정기입니다.
이 때문에 법률 전문가들은 법원이 AI 개발자, 제품, 그 안에 포함된 사용자 데이터를 어떻게 분류하는지 면밀히 모니터링해 왔습니다. 보다 구체적으로, 증거 및 발견 과정에서 훈련 데이터 및 채팅 로그를 포함하여 법이 LLM을 어떻게 취급하는지 추적해야 합니다.
우리는 순수한 책임 보호막만 있는 상황을 원하지 않습니다.
지난 2월, 연방 판사는 Anthropic의 Claude 챗봇이 생성한 후 고객이 변호사에게 보낸 법률 전략 문서가 불법이라고 결정했습니다. 변호사-의뢰인 특권이 적용되지 않음. 그 결정은 헤드라인을 장식했습니다. 사건의 판사는 채팅이 보호되는지 여부를 결정하기 위해 Anthropic의 자체 개인 정보 보호 정책에 부분적으로 의존했습니다. Anthropic의 규칙은 공개 제품을 사용할 때 완전한 개인 정보 보호를 약속하지 않으며 라이센스가 있는 변호사와 기밀이라는 점을 이해함권한이 적용되지 않았습니다. 문서는 공정한 게임이었습니다.
매싱 가능한 추세 보고서
그러나 같은 달, 비록 유사하기는 하지만 다른 사건의 다른 판사는 반대 판결을 내렸습니다. 판사에 따르면 이 경우 출력물이 “변호사-의뢰인 작업 제품”이 되었기 때문에 AI 생성 작업에 변호사-의뢰인 특권이 적용되었습니다. 이 사용 사례에서 챗봇은 “사람”이 아니라 변호사와 고객이 사용하는 도구였습니다. 이는 중요한 차이점입니다. 왜냐하면 챗봇이 제3자 개체로 간주되었다면 클라이언트는 특권 인정을 포기할 수 있는 방식으로 자발적으로 기밀 정보를 제공했을 것이기 때문입니다.
이것은 첫인상 문제라고 불리는 것과 관련된 몇 가지 초기 연방 지방 법원 사건입니다. 기본적으로, 누구도 이러한 질문을 한 적이 없으며, 우리는 이를 알아내는 시작 단계에 불과합니다.
한편 OpenAI와 관련된 저작권 소송은 검색 및 데이터에 대한 더 많은 질문을 불러일으켰습니다. 앞서 언급한 두 가지 판결이 나오기 얼마 전 OpenAI는 항소가 성공적으로 이루어졌습니다 회사가 변호사-의뢰인 특권을 포기하고 이전에 특권을 누렸던 데이터에 접근할 수 있게 되었다는 결정이 내려졌습니다. 회사에 넘겨달라는 명령이 내려졌는데 수백만 개의 익명화된 ChatGPT 대화 로그내부 커뮤니케이션도 가능합니다.
OpenAI와 같은 회사는 이러한 발견에 대해 기밀 유지를 주장하며 반발했습니다. 데이터 인정에 찬성한 판사들은 개인 식별 정보를 제거하고, 로그의 범위를 좁히고, 데이터를 외부에 공개하지 않는 것이 디지털 수집물을 법정에서 허용할 수 있다고 판단했습니다. 법적 환경은 이와 같은 질문으로 가득 차 있습니다.
전반적으로 AI 개발자들은 내부 데이터가 발견되지 않도록 노력하고 있습니다. 사용자 개인 정보 보호는 AI 시대의 가장 시급한 문제 중 하나이지만 법적 맥락에서 AI 권한을 열거하는 것은 난제를 제기합니다. AI 제작자에게 책임을 묻는 것을 불가능하게 하지 않고 사용자의 개인 데이터를 어떻게 보호할 수 있습니까?
“우리는 순수한 책임 보호막만 있는 상황을 원하지 않습니다”라고 Li는 말했습니다.
새로운 Mashable 시리즈인 AI + Health에서는 인공 지능이 의료 및 건강 환경을 어떻게 변화시키고 있는지 살펴봅니다. 귀하의 건강 데이터를 안전하게 유지하는 방법을 살펴보겠습니다.AI를 사용하여 혈액 작업을 해독하는 방법에 대해 알아보세요.두 명의 여성이 AI를 사용하여 위험한 형태의 심장병을 탐지하는 방법을 알아보세요.그리고 훨씬 더.
건강 AI는 큰 사업이다
올해 초 OpenAI는 AI를 개인 건강 전문가로 전환하려는 핵심 챗봇을 위한 새로운 소비자 대면 “모드”인 ChatGPT Health를 출시했습니다. 회사는 사용자에게 더 나은 개인화 경험을 제공하기 위해 의료 기록을 업로드하도록 권장합니다. 데이터는 현재 보호되지 않습니다. 건강 보험 이동성 및 책임에 관한 법률 (HIPAA)은 미국의 주요 건강 개인 정보 보호 규정입니다.
다른 회사들도 OpenAI의 선례를 따랐고, Anthropic, Microsoft, Amazon은 그 이후 몇 달 동안 HIPAA를 준수하는 일부와 그렇지 않은 자체 건강 지향 챗봇 컴패니언을 출시했습니다. OpenAI 경쟁사인 Google은 오랫동안 주로 의료용 AI에 투자해 왔습니다. 임상의와 연구자. Google이 소유한 Fitbit이 제공하는 개인 건강 코칭 통합된 Gemini 어시스턴트를 사용합니다. 회사는 또한 “대화형 진단 AI 에이전트,”를 Articulate Medical Intelligence Explorer(또는 AMIE)라고 합니다.
알트만과 그의 경쟁자들은 이익 잠재력에 몰려들다 AI 특권 규칙이 아직 등장하지 않았더라도 의료 산업의 지난 1월 오픈AI 헬스 스타트업 토치 인수그리고 Altman이 지원하는 MergeLabs뇌 컴퓨터 인터페이스(BCI)에 관심이 있는 생명공학 회사인 는 8억 5천만 달러의 평가를 받았습니다.
최근에 따르면 보고서 Menlo Ventures는 2025년에 의료 관련 생성 AI 솔루션에 14억 달러를 투자했습니다. 그 중 대부분은 AI 스타트업에 흘러갔습니다. 그리고 이러한 통계에는 ChatGPT Health와 같은 상용 제품에 대한 지출이 아닌 의료 전문가를 위한 OpenEvidence 및 Hippocratic AI와 같은 회사에서 생산한 도구인 임상 등급 제품만 포함됩니다.
인간-챗봇 특권이 있는 세상?
비임상등급 제품, 웰니스 기기, HIPAA 미준수 챗봇 중 규제 및 법적 명확성 부족 많은 개인 정보 보호 전문가에게 경고. 일부에서는 불확실한 정책 환경이 AI 개발자에게 도움이 될 수 있다고 가정합니다. 회사의 이익을 늘리기 위한 전략적 움직임으로 자체 건강 AI 제품을 규제 혼란에 빠뜨릴 수 있습니다. 그리고 법적 이익.
챗봇이 더 많은 “기밀” 대화를 축적함에 따라 규칙 501에 따른 더 많은 권한이 연루될 수 있습니다. 의사와의 의사소통을 보호하는 주에서는 AI “의사”도 포함됩니까? 또는 Dinçer가 제기한 덜 분명한 예를 생각해 보십시오. 사용자가 배우자의 검사 결과가 음성임에도 불구하고 어떻게 성병에 감염되었는지 챗봇에게 묻는 경우, 프롬프트와 응답이 증거로 제시될 수 있습니까? 아니면 배우자 특권과 같은 다른 형태의 보호가 실행될 수 있습니까?
광범위한 AI 권한이 있는 가상의 세계 또는 챗봇이 기존 권한 규칙에 루프되어 있는 경우에도 AI 회사는 불법 행위에 대한 노골적인 증거를 인정하는 것을 거부하려고 할 수 있습니다. 예를 들어, AI 회사가 개인의 건강에 대해 오해를 불러일으킨 혐의로 고소당하는 경우 검찰은 내부 기록이나 개인의 건강 기록이 포함된 채팅 분석을 사용할 수 없습니다.
아마도 Dinçer는 더 많은 사용자가 자신의 개인 의료 기록, 엑스레이 또는 기타 민감한 정보를 소비자 대면 제품에 입력하고 점점 더 많은 AI 회사가 개인 식별 정보 및 건강 기술 웹에 연결된다면 법원은 AI로 확장되는 특권에 대한 아이디어를 더 받아들일 가능성이 있다고 제안합니다.
이는 수익 외에도 기업이 인간 전문가에 대한 신뢰와 마찬가지로 AI 보조자에 대해서도 동일한 신뢰를 얻으려고 노력하는 이유 중 일부일 수 있습니다. 이미 건강상의 필요에 대해 AI에 문의하는 사람이 너무 많고 OpenAI와 같은 회사가 이미 많은 소송에 직면해 있는 상황에서 Altman과 같은 경영진이 변호사와 판사의 감시의 눈에서 챗봇 대화를 멀리하고 싶어하는 이유는 당연합니다.
이 기사에 포함된 정보는 교육 및 정보 제공의 목적으로만 제공되며 건강 또는 의학적 조언을 위한 것이 아닙니다. 의학적 상태나 건강 목표에 관해 궁금한 점이 있으면 항상 의사나 기타 자격을 갖춘 의료 서비스 제공자와 상담하세요.
공개: Mashable의 모회사인 Ziff Davis는 이전에 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.