많은 사람들이 X에서 처음으로 이 광고를 보았습니다. 가장 특이하고 불안한 채용 공고입니다. 어떤 사람들은 그것이 농담이라고 생각했습니다. 다른 사람들은 미국의 기술 회사인 Cyberdyne Systems를 떠올렸습니다. 터미네이터 우연히 스카이넷을 발명한 프랜차이즈.

이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.

그러나 다른 언어를 사용하는 LinkedIn에서는 Anthropic이 정책 관리자, 화학 무기 및 고수익 폭발물을 찾는 목록을 게시했을 뿐입니다. 직업 설명에 더 자세한 내용이 추가되었습니다.

“이 역할은 AI 시스템이 민감한 화학 물질 및 폭발물 정보를 처리하는 방법을 구체화할 수 있는 독특한 기회를 제공합니다.”라고 읽었습니다. “당신은 선도적인 AI 안전 연구원들과 협력하면서 치명적인 오용을 방지하는 데 중요한 문제를 해결하게 될 것입니다. 당신의 전문 지식을 활용하여 AI 시스템이 안전하고 유익하게 유지되도록 하는 데 관심이 있다면 우리는 당신의 의견을 듣고 싶습니다.”

Mashable은 Anthropic에 연락했고 회사는 더 많은 맥락을 제공했습니다.

회사 대변인은 “우리의 사용 정책은 Anthropic 제품이나 서비스를 무기 개발이나 설계에 사용하는 것을 금지합니다”라고 말했습니다. “이 역할은 우리 모델의 오용을 방지하는 역할을 담당하는 Safeguards 팀의 역할입니다.”

매쉬 가능한 광속

대변인은 Anthropic이 AI나 기술을 무기 제작에 사용하는 것을 명시적으로 금지하고 있다고 강조했습니다. 대신, 뉴욕에 본사를 둔 관리자는 무기가 보호되도록 보호 장치를 구축하고 시행하는 임무를 맡게 될 것입니다. ~ 아니다 Anthropic의 기술로 만들어졌습니다.

회사 대변인은 Anthropic의 AI가 사악한 손으로부터 보호될 수 있도록 민감한 분야의 전문가를 고용하려고 한다고 말했습니다.

Anthropic은 최근 전쟁부(국방부라고도 함)와 매우 공개적인 전투를 벌였습니다. 회사는 자사의 AI가 완전 자율 무기를 제작하거나 사람에 대한 대규모 감시를 구축하는 데 사용되지 않도록 요구하는 데 꿈쩍도 하지 않는다고 밝혔습니다.

Pete Hegseth 국방장관은 Anthropic이 미국 국가 안보에 대한 공급망 위험이 있다고 선언하고 6개월 간의 단계적 폐지 후 국방부가 해당 기술을 사용하는 것을 금지함으로써 Anthropic의 조건에 대응했습니다. 그 후 회사는 Anthropic CEO Dario Amodei의 3월 5일 메모에 따라 소송을 제기했습니다.

한편 미 국방부의 일부는 Anthropic의 AI 모델인 Claude를 포기하기가 어렵다고 보고하고 있습니다.

지난 2월, Anthropic은 책임 있는 확장 정책이라고도 알려진 AI 안전 정책에 대한 업데이트를 발표했습니다. 회사는 연방 정부가 안전 규정보다 경제 성장을 강조하는 등 여러 가지 요인으로 인해 일부 사람들이 업계에서 가장 강력하다고 간주하는 안전 정책을 재고해야 한다고 밝혔습니다.

결국 그 정책 관리자 역할을 맡게 된 사람은 누구나 폭발적인 논쟁의 중심에 서게 될 것입니다. 잠재적으로 도움을 줄 수 있는 능력은 말할 것도 없습니다. 예방하다 미래의 스카이넷 위협.