안 우발적인 누출 지금은 공식적으로 확인됨 AI 회사인 Anthropic이 자사의 가장 강력한 AI 모델에 대해 언급했습니다.

현재 “Claude Mythos”로 알려진 이 모델은 원래 다음과 같은 보고서에서 밝혀졌습니다. 행운. Anthropic은 이후 콘센트로의 누출에 대한 세부 사항을 확인했습니다.

데이터 유출에는 클로드 미토스(Claude Mythos) AI 모델 출시에 대한 세부 정보, ‘독점 CEO 이벤트’, PDF, 이미지 등 기타 내부 자산이 포함됐다고 한다. 행운. 전체적으로 유출에는 Anthropic이 이전에 게시하지 않은 거의 3,000개의 자산이 포함되었습니다.

Claude Mythos 누출 세부 정보

Anthropic에 따르면 이번 유출은 회사가 사용하는 콘텐츠 관리 시스템(CMS) 문제로 인해 발생했습니다. 데이터는 회사에서 CMS에 업로드했습니다. 그러나 Anthropic은 해당 항목을 비공개로 표시하지 못하여 데이터가 공개적으로 액세스 가능한 데이터 레이크에 저장되었습니다.

일부 데이터는 Anthropic의 과거 발표에서 사용되지 않은 자산이었습니다. 유출된 다른 데이터로는 직원 세부 정보나 CEO 초대 행사 정보 등 기업 내부 정보가 있었습니다.

그러나 유출된 데이터에는 게시되지 않은 블로그 게시물 초안에 있는 Claude Mythos에 대한 정보도 발견되었습니다.

매쉬 가능한 광속

클로드 미토스와 카피바라

Claude Mythos에 대한 유출된 초안에 따르면 Anthropic은 모델 훈련을 완료했으며 이 모델을 “지금까지 우리가 개발한 가장 강력한 AI 모델”이라고 언급했습니다.

유출 후 Fortune에 제공된 성명에서 Anthropic 대변인은 Claude Mythos를 AI 성능의 “단계 변화”라고 설명했으며 이 모델은 “지금까지 우리가 구축한 것 중 가장 유능하다”고 말했습니다. Anthropic은 Claude Mythos가 현재 시험 단계에 있으며 “얼리 액세스 고객”을 선택할 수 있다고 말합니다.

유출된 게시물에는 새로운 AI 모델 외에도 Capybara라고 불리는 Anthropic의 새로운 미공개 AI 모델 계층이 언급되어 있습니다.

Anthropic은 현재 각 AI 모델에 대해 Opus, Sonnet 및 Haiku의 세 가지 계층 수준을 제공합니다. Opus는 현재 가장 강력하고 가장 비싼 계층인 반면, Haiku는 가장 작고 가장 저렴한 계층입니다. Capybara는 Anthropic의 가장 크고 가장 지능적인 AI 모델 계층으로서 Opus보다 훨씬 높은 위치에 있을 것입니다.

Capybara 사이버보안 위험

유출된 게시물에는 Claude Mythos가 가져온 사이버 보안 위험에 대한 Anthropic의 우려도 자세히 설명되어 있습니다. Anthropic은 해커가 사이버 공격을 실행하기 위해 Claude Mythos를 사용할 수 있다고 믿는 것으로 보입니다.

유출된 Anthropic 게시물은 “Claude Capybara 출시를 준비하면서 우리는 자체 테스트에서 배운 것 이상으로 더욱 주의 깊게 행동하고 그것이 초래하는 위험을 이해하고 싶습니다.”라고 밝혔습니다. “특히 우리는 사이버 보안 영역에서 모델의 잠재적인 단기 위험을 이해하고 그 결과를 공유하여 사이버 방어자가 준비하는 데 도움을 주고 싶습니다.”

Anthropic은 자사의 미공개 모델이 “현재 사이버 기능의 다른 AI 모델보다 훨씬 앞서 있다”고 설명했으며 이 모델은 “방어자의 노력을 훨씬 능가하는 방식으로 취약점을 악용할 수 있는 다가오는 모델의 물결을 예고합니다”라고 설명했습니다.

회사는 유출된 초안 블로그에서 “임박한 AI 기반 공격의 물결에 맞서 코드베이스의 견고성을 향상시키는 데 앞장서기” 위해 조직에 조기 액세스를 제공하고 있다고 밝혔습니다.