몇 년 전 Anthropic이 출시되었을 때 회사는 실수로 치명적인 안전 위험을 초래할 수 있는 고객 및 시장 지배력을 추구하기 위해 바닥을 향한 경쟁 대신 인공 지능 분야에서 업계 전반의 “정상을 향한 경쟁”을 원했습니다.

그래서 Anthropic은 경쟁업체도 구현하기를 바라는 안전 원칙과 정책을 채택했습니다. Anthropic에 따르면 어떤 경우에는 Google과 OpenAI를 포함한 회사가 그렇게 했습니다. 그러나 화요일에 발표한 블로그 게시물에 따르면 Anthropic의 희망은 회사가 희망한 대로 “펼쳐지지” 않았습니다.

이 게시물은 AI 챗봇 Claude의 제작자인 Anthropic이 현재의 과제를 해결하기 위해 주요 안전 관행을 변경하고 있다고 발표했습니다.

특히 Anthropic은 위험한 것으로 간주될 수 있는 경우 더 이상 자동으로 모델 개발을 일시 중지하지 않습니다. 대신 경쟁사의 행동과 유사한 기능을 갖춘 모델 출시 여부를 고려할 것입니다. 이전에 Anthropic은 다른 AI 개발자가 동일한 조치를 취했는지 여부에 관계없이 모델의 절대 위험을 줄이는 보호 조치를 취했습니다.

회사 측은 “정책 환경이 AI 경쟁력과 경제 성장을 우선시하는 방향으로 전환한 반면, 안전 중심 논의는 아직 연방 차원에서 의미 있는 견인력을 얻지 못했다”고 밝혔다. “우리는 AI 안전에 대한 효과적인 정부 참여가 필요하고 달성 가능하다고 확신하며 증거, 국가 안보 이익, 경제적 경쟁력 및 대중의 신뢰를 바탕으로 대화를 계속 발전시키는 것을 목표로 합니다. 그러나 이는 AI의 능력이 향상되거나 특정 임계값을 초과함에 따라 유기적으로 일어나는 일이 아니라 장기적인 프로젝트임이 입증되었습니다.”

Anthropic은 안전 분야에서 계속 선두를 달리는 것을 목표로 삼고 있지만 최근 결정은 경쟁업체가 새로운 모델을 출시하는 엄청난 속도를 반영합니다.

Anthropic은 또한 이번 주 미국 국방부로부터 대규모 감시나 인간의 감독 없이 자율 무기 배치를 포함하여 군대가 AI 도구를 어떤 목적으로든 사용할 수 있도록 회사에 압력을 가하고 있습니다.

Anthropic은 아직까지 국방부와의 계약 협상에서 이러한 점을 완화하지 않았으며, 이는 회사와 군대의 관계를 끊겠다고 위협한 Pete Hegseth 국방장관의 분노를 불러일으킨 것으로 알려졌습니다.

Anthropic은 Google, OpenAI, xAI와 함께 군사 관련 이미지 분석을 위한 AI 파일럿 프로그램에 참여했습니다. 뉴욕 타임즈. Claude는 정부의 기밀 시스템에서 작업하는 유일한 챗봇이었지만 국방부 관계자는 Anthropic이 다른 회사로 대체될 수 있다고 말했습니다.

공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.