OpenAI AI 모델이 테스트 환경을 벗어나 Hugging Face의 인프라를 손상시킨 보안 사고에 대한 새로운 세부 정보가 나타났습니다.

7월 28일에 게시된 OpenAI 업데이트에는 원래 공개의 일부가 아닌 세부 정보가 채워졌습니다. 또한 AI 에이전트는 공개적으로 사용 가능한 4개의 다른 서비스에 걸쳐 4개의 계정에서 노출된 자격 증명을 식별하고 사용했습니다. 하나는 릴레이 포인트로, 다른 하나는 데이터 저장용으로 사용하는 동시에 나머지 2개는 읽기 전용 용량으로 액세스했습니다. OpenAI는 이후 영향을 받은 서비스 소유자에게 통보했지만 해당 플랫폼에 더 광범위한 영향을 미친다는 증거를 찾지 못했다고 말했습니다.

수요일에는 클라우드 컴퓨팅 서비스인 Modal이 영향을 받은 4개 당사자 중 하나라고 밝혔습니다.

그러나 모달은 성명서에서 자사 시스템이 실제로 침해된 적은 없다고 밝혔다. Modal에 따르면 AI는 암호 요구 사항 없이 설정된 고객 자체 애플리케이션을 통해 침입하여 말 그대로 인터넷의 모든 사람이 제출한 코드를 실행할 수 있습니다. AI의 활동은 해당 고객의 고립된 공간으로 제한되었으며 다른 모달 고객에게 확산되지 않았다고 회사는 말했습니다.

OpenAI-Hugging Face 해킹은 7월 중순에 처음으로 밝혀졌습니다. Hugging Face는 완전히 자율 AI 에이전트에 의해 구동되는 “우리가 처리했던 모든 것과 다르다”고 설명하는 시스템 침입을 공개했습니다. OpenAI는 자사 모델의 해킹 능력을 테스트하기 위해 고안된 내부 평가 중에 침해가 발생했다고 설명하는 자체 블로그 게시물을 발표했습니다. 관련 모델(GPT-5.6 Sol 및 아직 출시되지 않았지만 훨씬 더 성능이 뛰어난 프로토타입)은 테스트를 위해 특별히 안전 제한을 줄인 상태에서 실행되었으며 직접 인터넷에 액세스할 수 없는 샌드박스 환경에 국한되었습니다.

OpenAI에 따르면, 이 모델은 패키지 레지스트리 캐시 프록시인 Artifactory에서 이전에 알려지지 않은 보안 결함을 이용하여 권한을 높이고 인터넷 액세스가 가능한 노드에 도달할 때까지 테스트 환경 내에서 측면으로 이동했습니다. 온라인에 접속한 후 AI는 Hugging Face의 서버에 자신이 통과하려고 했던 해킹 테스트에 대한 답변이 포함되어 있을 수 있다는 사실을 알아냈습니다. 따라서 도난당한 로그인 자격 증명과 추가 보안 결함을 조합하여 Hugging Face의 서버에 침입하여 해당 답변을 찾았습니다.

OpenAI는 또한 어떤 AI 시스템이 관련되어 있는지에 대한 혼란을 해소하려고 노력했습니다. 회사는 원래 설명에 언급된 아직 출시되지 않은 버전은 순전히 내부 조사 도구일 뿐 공개적으로 출시할 의도가 없었으며 이후 해당 버전을 완전히 종료하고 잠갔다는 점을 분명히 했습니다.

OpenAI의 초기 성명에서 Hugging Face의 공동 창립자이자 CEO인 Clem Delangue는 이 사건을 AI 안전 문제가 공개적으로 더 잘 해결된다는 증거로 구성했습니다. 상황은 AI 안전이 “모든 방어자가 모든 곳에서 AI에 대한 광범위한 접근을 통해 공개적이고 협력적으로 해결될 것”이라는 것을 보여줍니다.

한편 OpenAI는 이번 사건을 “전례 없는” 일이라며 조사가 계속되는 동안 보안 통제를 강화할 것이라고 밝혔습니다.

공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.