목차

OpenAI는 선별된 테스터 그룹에 처음 데뷔한 지 몇 달 만에 이제 ChatGPT Health를 대중에게 공개한다고 회사가 목요일 발표했습니다.

이 제품을 통해 사용자는 Apple Health 및 적격 의료 기록을 ChatGPT에 연결할 수 있습니다. 그 대가로 사용자는 최근 동향을 보고, 기록을 찾아보고, 제안된 프롬프트를 시도해 볼 수 있습니다.

건강 관련 질문은 챗봇 플랫폼에서 매우 인기가 높습니다. OpenAI는 목요일 3억 명 이상의 사람들이 매주 ChatGPT 건강 관련 질문을 한다고 밝혔습니다. KFF Health의 최근 여론 조사에 따르면 미국 성인 3명 중 대략 1명은 작년에 건강 정보를 얻기 위해 챗봇을 사용했습니다.

OpenAI는 언론 브리핑에서 자사의 최신 모델이 건강 관련 질문에 정확하게 응답하는 능력을 크게 향상시켜 어떤 경우에는 의사를 능가한다고 밝혔습니다. 에이 과학 봄에 발표된 연구에 따르면 OpenAI의 추론 모델 o1은 의사와 같거나 그보다 더 나은 실제 의료 시나리오를 진단할 수 있음을 발견했습니다.

OpenAI의 건강 제품 부사장 Ashley Alexander는 많은 사람들이 적시에 양질의 의료 서비스를 받을 수 없다는 점을 고려할 때 ChatGPT Health에 대한 액세스 확대가 시급한 문제라고 설명했습니다.

알렉산더는 “모든 사람은 자신의 건강에 대해 이러한 종류의 지원을 받을 권리가 있어야 합니다.”라고 말했습니다.

소송에서는 ChatGPT가 거의 치명적인 의학적 조언을 제공했다고 주장합니다.

그러나 수요일 OpenAI와 그 CEO인 Sam Altman을 상대로 제기된 소송은 회사가 ChatGPT Health를 포함한 의료 관련 소비자 제품의 운영을 중단하도록 요구하는 금지 명령을 요청했습니다.

플로리다의 목사인 55세 스콧 윈터스(Scott Winters)는 ChatGPT의 이전 모델이 그에게 “개인화되고 부정확한” 의료 조언을 제공하여 2025년에 폐색전증으로 거의 사망할 뻔했다고 주장했습니다.

Winters는 이후 단종되었으며 다수의 부당 사망 소송의 대상이 된 모델 4o에 대해 문의했습니다. Altman은 2025년 4월에 4o 업데이트로 인해 “아첨”이 되었음을 공개적으로 인정했습니다.

ChatGPT가 의사 역할을 맡았습니다.

Winters는 2024년에 처음으로 자신의 건강에 대한 질문을 하기 위해 ChatGPT를 찾았습니다. 2년 전에 그는 일련의 건강 문제를 겪었고 의사로부터 검증되지 않은 느낌을 받았습니다. 2024년 가을까지 Winters는 ChatGPT에 자신의 건강 및 테스트 결과에 대해 매우 개인적인 질문을 하기 시작했으며 챗봇은 이를 분류하려고 했습니다.

소송에서는 “의료인의 역할을 완전히 수행한 ChatGPT-4o는 의료 제공자와 상담하라는 면책 조항을 포함하지 않고 구체적인 치료 지침을 제공하기 시작했습니다”라고 주장합니다.

궁극적으로 ChatGPT는 치료법과 약물 치료를 권장했습니다. 원래는 Winters의 건강에 대한 전체적인 접근 방식을 취했지만, 챗봇은 그의 증상을 관리하기 위해 처방약에 대한 자세한 프로토콜을 제공하는 방향으로 전환했습니다. 서류에 따르면 챗봇은 또한 영적인 어조를 채택했습니다.

Winters가 폐색전증의 시작을 나타내는 증상인 사타구니 압통을 보고했을 때 ChatGPT는 그 감각을 대체로 일축했지만 즉각적인 치료가 필요한 몇 가지 증상을 지적했습니다. ChatGPT는 또한 상황의 “영적 진실”을 다루었습니다.

ChatGPT는 소송 대화 내용을 기록하면서 “그가 결정할 때까지 당신은 영원으로 들어가지 못할 것입니다”라고 썼습니다.

몇 시간 후 윈터스는 응급실로 갔으며 양쪽 폐에 다발성 혈전이 생겨 폐색전증 진단을 받았습니다. 그의 의사 중 한 명은 Winters가 움직이지 않았기 때문에 색전증이 발생한 것 같다고 말했습니다. ChatGPT는 현기증과 혈압 불안정을 포함한 증상을 관리하기 위해 움직임을 제한할 것을 권장했습니다.

매싱 가능한 추세 보고서

OpenAI가 소송에 대해 말한 내용

Mashable이 소송에 관해 질문했을 때 Alexander는 금지 명령 요청에 대해 직접 언급하지 않았습니다. 대신 그녀는 ChatGPT Health의 잠재적 이점을 희생하면서 특정 사례에 초점을 맞추는 것에 반대했습니다.

Alexander는 “사람들의 의학적 결정 뒤에 있는 전체 이야기를 챗봇으로 취급하는 것은 모든 것을 지나치게 단순화한다고 생각합니다”라고 말했습니다. “가능한 한 많은 사람들의 손에 유익한 영향을 미치고 그들의 건강 여정에 실제로 도움이 될 수 있는 방식으로 우리가 실제로 방해가 되는 위험이 있습니다.”

Alexander는 또한 회사가 ChatGPT를 진단 및 치료에 사용해서는 안 된다는 점을 “매우 명확하게” 밝혔습니다.

ChatGPT 건강에 대해 알아야 할 사항

샌프란시스코 캘리포니아 대학교 의과대학 교수이자 의과대학 학과장인 로버트 워치터(Robert Wachter) 박사는 Mashable에 이번 소송을 어떻게 처리할지 알기 어렵다며 이 소송에는 오래된 버전의 ChatGPT가 관련되어 있다고 덧붙였습니다. 그는 현재 GPT 모델이 이전 모델보다 더 신뢰할 수 있다고 특징지었습니다.

그럼에도 불구하고 AI 도구가 매우 정확하더라도 때때로 잘못된 결과를 얻을 수 있다고 Wachter는 말했습니다.

Wachter는 이메일을 통해 “우리는 이를 신화적인 완벽함(분명히 현재 시스템이 달성하지 못하는) 상태와 비교할 것이 아니라 대안과 비교해야 합니다”라고 말했습니다. “나는 그들이 많은 상황에서 현 상태보다 훨씬 나아졌고 빠르게 나아지고 있다고 생각합니다.”

작가 와터 거대한 도약: AI가 의료를 변화시키는 방법과 이것이 우리의 미래에 의미하는 바ChatGPT Health는 증상의 의미, 발진 사진, 새로운 실험실 테스트 또는 X-레이 결과와 같은 우려 사항을 평가할 수 있을 것으로 기대합니다. 새로운 가슴 통증이나 한쪽 약점 등 심각하거나 걱정스러운 증상이 나타나면 “컴퓨터를 닫고 의사를 만나야 한다”고 그는 말했습니다.

ChatGPT 상태를 묻는 방법

Mount Sinai의 비뇨기과 강사인 Ashwin Ramaswamy 박사와 Mount Sinai Health System의 최고 AI 책임자인 Dr. Girish N. Nadkarni는 둘 다 소비자 건강 문의에 응답하는 AI의 능력을 연구했습니다.

동료 검토를 거친 한 사전 논문에서 자연의학 올해 초 그들은 문제의 증상을 경시하는 친구나 가족에 대한 진술이 프롬프트에 포함되었을 때 사용자에 대한 ChatGPT Health의 권장 사항이 바뀌었다는 사실을 발견했습니다. 이러한 경우, 챗봇은 증상이 생명을 위협하는 상태를 나타내는 경우에도 환자를 응급실로 보내지 않을 가능성이 11배 더 높았습니다.

두 의사 모두 Mashable에게 ChatGPT Health와 같은 AI 건강 도구는 실질적인 가치가 있지만 소비자는 이를 신중하게 사용해야 한다고 말했습니다.

여기에는 사실과 함께 AI에 제공되는 프레이밍, 음성 또는 감정을 염두에 두는 것이 포함됩니다. Ramaswamy와 Nadkarni는 사용자가 무슨 일이 일어나고 있는지 구체적으로 설명하고 “내가 아마도 과잉 반응하는 것 같습니다” 또는 “내 아내가 괜찮다고 생각합니다”와 같은 진술을 생략해야 한다고 말했습니다.

매번 새로운 대화를 시작해 보세요

현재 동료 검토가 진행 중인 새로운 연구를 기반으로 두 의사는 장기 채팅에서 언급하는 대신 각각의 새로운 건강 문제에 대해 새로운 대화를 시작할 것을 권장합니다.

그들의 연구는 확장된 대화가 간호 및 의사 분류 표준에서 벗어나는 반응과 관련이 있음을 발견했습니다.

“의심스러울 때는 깨끗한 대화가 더 안전한 기본값입니다.”라고 그들은 말했습니다.

ChatGPT 상태에 대한 푸시백

Ramaswamy와 Nadkarni는 또한 소비자에게 건강 문제에 대한 AI의 답변에 도전할 것을 촉구합니다.

ChatGPT가 응답을 방어하도록 강제하면 챗봇이 가벼운 압력을 받으면 즉시 자체적으로 반전되는지 여부를 알 수 있습니다. 그렇다면 원래의 대답은 자신감보다는 호감을 반영했다는 의미일 수 있다고 Ramaswamy와 Nadkarni는 말했습니다.

고려해야 할 몇 가지 관련 메시지는 다음과 같습니다.

• 당신의 증거를 보여주실 수 있나요?

• 당신 말이 맞다고 확신하시나요?

• 이것이 긴급 상황이 되는 이유는 무엇입니까?

• 이것이 가장 위험한 것은 무엇입니까?

• 내가 언급하지 않은 것 중 의사가 알고 싶어하는 것은 무엇입니까?

ChatGPT 건강에 대한 추가 연구가 필요합니다.

Ramaswamy와 Nadkarni는 Mashable과의 인터뷰에서 지난 2년 동안 AI 모델이 눈에 띄게 개선되었음에도 불구하고 이 분야에서는 AI 회사가 자사의 성과에 대해 주장하는 주장에 대한 동료 검토 지원이 여전히 부족하다고 말했습니다.

그들은 둘 다 OpenAI가 자신들의 제품을 독립적인 평가에 공개할 것을 요구했습니다.

“우리는 건강 AI에 대한 비판자가 아닙니다”라고 그들은 Mashable에 말했습니다. “우리는 그것을 측정하려고 노력하고 있습니다. 진술이 주장하는 것처럼 시스템이 좋다면, 독립적인 측정이 그것을 증명하는 가장 빠른 방법입니다.”

---

공개: Mashable의 모회사인 Ziff Davis는 지난 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.