OpenAI는 미국 전쟁부(DOW)와 계약을 체결하여 “기밀화된 환경”에서 군사용 AI 도구를 제공했습니다. ChatGPT 개발자는 토요일에 파트너십을 발표하면서 대규모 국내 감시 또는 자율 무기에 자사 기술을 사용하는 것을 금지하는 가드레일이 포함되어 있다고 주장했습니다. 그러나 OpenAI가 공유한 계약 발췌문에는 심각한 허점이 있는 것으로 보입니다.
Anthropic의 Claude가 App Store에서 ChatGPT를 추월했습니다.
OpenAI와 DOW의 거래 소식은 도널드 트럼프 대통령이 미국 정부가 AI 모델 Claude를 포함하여 OpenAI 경쟁사인 Anthropic의 기술을 더 이상 사용하지 않을 것이라고 발표한 지 하루 만에 나왔습니다. Trump는 Truth Social에 분할에 대해 게시하면서 DOW가 회사의 서비스 약관을 준수한다는 Anthropic의 주장에 반대했습니다.
트럼프가 문제를 제기한 정확한 서비스 약관은 목요일 Anthropic CEO Dario Amodei의 성명에서 공개되었습니다. 여기에서 그는 DOW가 Anthropic에게 미국의 대량 감시 기술과 완전히 AI가 제어하는 무기를 사용하는 것에 대한 보호 장치를 제거할 것을 요구했다고 주장했습니다. Amodei는 이러한 사용이 기술적으로 합법적일 수 있지만 “이는 법이 아직 빠르게 성장하는 AI의 기능을 따라잡지 못했기 때문일 뿐입니다”라고 말했습니다.
Amodei는 “(I) 좁은 범위의 사례에서는 AI가 민주적 가치를 방어하기보다는 훼손할 수 있다고 믿습니다.”라고 썼습니다. “일부 용도는 오늘날의 기술이 안전하고 안정적으로 수행할 수 있는 범위를 벗어나는 것이기도 합니다.”
OpenAI의 조건은 트럼프 행정부가 선호하는 것보다 더 나은 것으로 보입니다. 이 회사는 Anthropic 대신 미군에 AI 기술을 공급하기 위해 개입하고 있습니다. 그럼에도 불구하고 OpenAI는 DOW와의 계약에 자사의 기술을 대규모 국내 감시 또는 자율 무기 지시에 사용하는 것을 금지하는 유사한 가드레일이 있을 뿐만 아니라 세 번째 조항도 추가했다고 주장합니다. “고부담 자동화 결정(예: ‘사회적 신용’과 같은 시스템)에 OpenAI 기술을 사용하지 않습니다.”
OpenAI의 발표에서는 “우리는 안전 스택에 대한 전적인 재량권을 갖고 있으며, 클라우드를 통해 배포하고, OpenAI 직원이 루프에 있음을 확인했으며, 강력한 계약 보호를 갖추고 있습니다.”라고 밝혔습니다. “이것은 모두 미국 법률의 강력한 기존 보호 장치에 추가되는 것입니다.”
이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.
OpenAI에 따르면, DOW를 하드웨어에 직접 설치하는 대신 클라우드를 통해서만 DOW에 기술을 제공하기 때문에 이것이 부과한 제한 사항은 Anthropic보다 더 강력합니다. OpenAI 직원도 계속 참여하여 DOW가 해당 기술을 어떻게 사용하고 있는지 확인할 수 있습니다. 이를 통해 회사는 AI 시스템에 대한 더 많은 감독과 통제를 허용할 것으로 알려졌습니다.
OpenAI는 “우리는 Anthropic이 왜 이 거래에 도달할 수 없는지 알지 못하며 그들과 더 많은 연구소가 이를 고려하기를 바랍니다”라고 썼습니다.
그러나 OpenAI가 공유한 계약의 발췌문에 따르면 OpenAI의 기술은 자율 무기에 사용되거나 그러한 사용이 불법인 경우 미국 시민을 감시하는 데에만 사용이 금지됩니다. 실제로 이 합의는 DOW 정책이나 법률에 따라 무기에 대한 인간의 통제가 요구되지 않는 경우와 같이 OpenAI의 기술이 이러한 목적으로 허용되는 상황을 제시하는 것으로 보입니다.
OpenAI에 따르면 “전쟁부는 해당 법률, 운영 요구 사항, 잘 확립된 안전 및 감독 프로토콜에 따라 모든 합법적인 목적으로 AI 시스템을 사용할 수 있습니다.”라고 명시되어 있습니다. “자율 및 반자율 시스템에서 AI를 사용하려면 배포 전에 실제 환경에서 의도한 대로 작동하는지 확인하기 위해 엄격한 검증, 검증 및 테스트를 거쳐야 합니다.”
OpenAI의 국가 안보 파트너십 책임자인 카트리나 멀리건(Katrina Mulligan)은 링크드인에 게시한 우려 사항에 대해 단지 사용 정책만이 유일한 안전 장치는 아니라는 점을 거듭 강조하면서 클라우드 구축과 인력 참여를 다시 강조했습니다.
“(DOW의) 입장은 원하는 대로 모델을 구축하고, 원하는 요청은 무엇이든 거부하며, 사용 정책을 통해 우리의 운영 결정을 통제하려고 하지 않는다는 것이었습니다.”라고 Mulligan은 썼습니다.
매쉬 가능한 광속
그럼에도 불구하고 특히 OpenAI가 윤리적 입장을 취하기를 꺼린다는 점을 고려할 때 이러한 표면적 보호 장치의 효과에 대해서는 의구심이 남아 있습니다.
Sam Altman이 OpenAI와 전쟁부(Department of War)의 거래에 관해 이야기합니다.
이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.
OpenAI CEO인 Sam Altman은 DOW 거래에 대한 사용자의 우려를 완화하기 위해 X에 대한 Q&A를 실시했지만 거의 성공하지 못했습니다. 알트만은 거래가 “확실히 급하게 이루어졌고 광학적 측면도 좋지 않아 보인다”고 인정하면서 DOW와 AI 산업 사이의 긴장이 완화되기를 바랐다고 주장했습니다.
Altman은 “정부와 이 기술을 개발하는 기업 간의 좋은 관계가 향후 몇 년 동안 중요하다고 생각합니다.”라고 썼습니다.
이 거래로 인해 OpenAI와 미국 정부가 더 가까워졌을 수도 있지만 동시에 ChatGPT의 민간 사용자도 소외된 것으로 보입니다.
모든 합법적인 사용을 허용하면 대량 감시가 허용되는지에 대한 질문에 알트만은 미 전쟁부 차관 에밀 마이클(Emil Michael)의 게시물을 공유하여 “DoW는 (상업적 수집을 포함하여) 미국 국민의 국내 통신을 감시하지 않으며 그렇게 하는 것은 불법적이고 근본적으로 비미국적입니다.”라고 주장했습니다.
당연히 DOW의 말을 받아들이려는 사람은 거의 없는 것 같습니다. 2013년 내부고발자 에드워드 스노든(Edward Snowden)은 DOW(당시 국방부) 국가안보국(NSA)이 미국 시민을 대상으로 대규모 감시를 실시하고 있음을 폭로했습니다. 이 프로그램은 불법으로 밝혀졌으며 사람들의 전화 기록도 포함되어 있었습니다. 휴먼라이츠워치(Human Rights Watch)는 또한 당시 국방부가 2017년에 영장 없이 미국 시민을 감시했다고 비난했습니다.
X 사용자 @bolts6629는 “정부는 이미 법을 위반하고 미국 시민을 불법적으로 감시했습니다”라고 답했습니다. “거짓말로 유명한 행정부 차관의 밀케토스트 발언 한 마디면 충분합니까?”
Altman은 OpenAI의 기술을 대규모 국내 감시에 사용하는 것을 거부할 것이라고 밝혔습니다. “헌법을 위반하기 때문입니다.” 그리고 그러한 사용을 허용하는 개정안에 대해 불편함을 표명했습니다. 그러나 일부 소셜 미디어 사용자들은 그가 이전에 다른 약속을 철회했다는 점을 지적하며 이 주장에 의문을 제기했습니다.
@Laneless_는 “당신이 하지 않겠다고 말한 다른 일: OpenAI 이사회를 무효화하고, 비영리 조직을 제거하고, ChatGPT에 광고를 넣는 것입니다.”라고 말했습니다.
또한 OpenAI의 CEO는 회사가 윤리적 선을 긋는 것을 꺼려하며 어떤 종류의 입장도 취하기보다는 책임을 포기하고 정부의 지시를 따르는 것을 선호한다고 밝혔습니다.
Altman은 “(W)e는 선출되지 않았습니다.”라고 썼습니다. “우리는 리더를 선출하는 민주적인 절차를 갖고 있습니다. 우리는 기술에 대한 전문 지식을 갖고 있고 그 한계를 이해하고 있지만 민간 기업이 가장 중요한 영역에서 윤리적인 것과 그렇지 않은 것을 결정하는 것을 두려워해야 한다고 생각합니다.”
@MagisterLudiX는 “명령을 따르는 것이 비윤리적 행동에 대한 변명이 될 수는 없습니다”라고 답했습니다. “정치적 맥락에 따라 강한 경계선이 있거나 순전히 거래로 간주됩니다.”
“AI는 도구입니다. AI에 대한 엄격한 제한은 다른 도구와 마찬가지로 제한 사항입니다.”라고 @genericrohan은 썼습니다. “군이 무엇을 할 수 있는지를 결정하는 것이 아니라, 군이 계획할 수 있는 한계를 설정하는 것입니다.”
OpenAI와 DOW의 파트너십 소식에 많은 ChatGPT 사용자들이 AI 챗봇 구독을 취소하고 있는 것으로 알려졌습니다. 그 대신 몇몇은 Anthropic의 AI 챗봇인 Claude로 눈을 돌리고 있습니다. Claude는 이후 미국 Apple App Store에서 가장 많이 다운로드된 무료 앱으로 ChatGPT를 밀어냈습니다.
Reddit 사용자 r/boomroom11은 하위 reddit r/ChatGPT에 게시했습니다. “OpenAI는 방금 악마와 거래를 했고 이 고객을 2년 동안 잃었습니다.” 해당 게시물은 작성 당시 26,000개 이상의 찬성 투표를 받았습니다. “인류를 위해 안전하게 AI를 구축하기 위해 존재한다고 말한 회사(원래 비영리)가 이제 국방부와 계약을 맺고 있습니다. Sam Altman은 회사가 설립된 모든 원칙보다 방위비가 더 중요하다고 결정했습니다.”
공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.