이야기는 다음과 같습니다. Anthropic은 소프트웨어의 보안 결함을 식별하는 데 탁월한 AI 모델인 Claude Mythos를 만듭니다. Anthropic 자체 콘텐츠 관리 시스템 소프트웨어의 보안 문제로 인해 Mythos에 대한 세부 정보가 사전에 대중에게 유출됩니다. 약간의 고민 끝에 Anthropic은 해커가 사악한 목적으로 Mythos를 사용할 수 있다는 우려 때문에 Mythos를 대중에게 공개하지 않기로 결정했습니다.

응, 아마 그게 옳은 결정이었을 거야.

화요일에 Anthropic은 “사이버 보안을 재구성”할 수 있는 아직 출시되지 않은 AI 모델인 Claude Mythos Preview를 발표했습니다. 회사에 따르면 이미 “모든 주요 운영 체제와 웹 브라우저에서 일부를 포함하여 심각도가 높은 수천 개의 취약점”을 발견했습니다. 이는 좋은 일이지만, Anthropic은 또한 나쁜 행위자들이 Mythos를 악용하여 “경제, 공공 안전 및 국가 안보”에 잠재적으로 “심각한” 결과를 초래할 수 있다고 말했습니다.

이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.

따라서 Anthropic은 다른 모델처럼 Mythos를 출시하는 대신 Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA 및 Palo Alto Networks 등 소수의 선별된 회사에만 액세스 권한을 부여하기로 결정했습니다. Anthropic은 이를 AI의 도움으로 중요한 소프트웨어 인프라를 강화하기 위한 이니셔티브인 “Project Glasswing”이라고 부릅니다. 또한 회사는 “중요한 소프트웨어 인프라를 구축하거나 유지 관리하는” 40개 이상의 추가 조직 그룹에 대한 액세스를 확장했습니다.

화요일 CNBC와의 인터뷰에서 Anthropic의 연구 제품 관리 책임자인 Dianne Penn은 이러한 움직임이 많은 “내부 숙고” 후에 이루어졌으며 “많은 사이버 방어자들에게 유리한 출발”을 제공하기 위한 것이라고 말했습니다.

한편, Anthropic CEO Dario Amodei는 X에 대해 “Mythos Preview를 일반 가용성으로 출시하는 대신 Mythos급 모델이 생태계 전체에 확산되기 전에 취약점을 찾아 패치할 수 있도록 방어자에게 조기 제어 액세스를 제공하고 있습니다”라고 게시했습니다.

이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.

그는 “잘못할 경우의 위험은 분명하지만, 올바르게 한다면 AI 기반 사이버 기능이 출현하기 전보다 근본적으로 더 안전한 인터넷과 세상을 만들 수 있는 실질적인 기회가 있습니다”라고 덧붙였습니다.

Claude Mythos Preview는 사이버 보안 결함을 찾는 데 특히 뛰어나지만 실제로는 범용 모델입니다. 그러나 회사는 현재 이를 광범위하게 사용할 계획은 없습니다. 대신 Mythos급 모델을 모든 사람에게 안전하게 배포할 수 있는 방법을 찾아내려고 노력할 것입니다.