Anthropic은 의회에 자체 AI 안전 법안을 제출하고 있다고 보고서는 말합니다.

Anthropic은 최첨단 AI 안전과 보안을 규제하기 위한 법안 초안에 대해 의원들에게 비공개적으로 의견을 제시했다고 POLITICO가 금요일 보도했습니다. 매체는 해당 노력에 대해 잘 알고 있는 세 명의 사람을 인용하여 기밀 초안의 사본을 입수했습니다.

Anthropic 대변인은 POLITICO에 이 법안이 6월부터 국회의원들에게 홍보한 회사의 고급 AI 프레임워크를 반영한다고 말했습니다. 대변인은 이 제안이 의회를 위한 “합리적인 정책”이라고 불렀습니다.

법안은 무엇을 할 것인가

초안은 정부 조치에 대한 높은 기준을 설정합니다. POLITICO에 따르면 연방 공무원은 “10억 달러 이상의 피해 또는 50명 이상의 사망 또는 중상을 입힐 수 있는 예측 가능하고 임박한 위험”이 있는 경우에만 모델 출시 또는 사용을 중단할 수 있습니다. 또한 위험은 생물 무기, 개발자의 통제를 벗어나는 모델, 사이버 공격 등 세 가지 소스 중 하나에서 발생해야 합니다. 언어는 캘리포니아의 SB 53을 밀접하게 따릅니다.

POLITICO는 AI 연구소가 올 여름 AI 에이전트가 온라인 플랫폼의 방어에 침입하거나 테스트한 여러 사건을 공개했다고 지적했습니다. 이러한 사건 중 어느 것도 법안에 설명된 규모의 피해를 초래한 것으로 보이지 않습니다. 여기에는 악성 에이전트가 보안 샌드박스를 탈출하여 제3자를 공격한 OpenAI-Hugging Face 사건이 포함됩니다.

이 법안은 또한 외부 평가자를 만들 것입니다. 모델을 중단하고, 연구소에 새로운 의무를 부과하고, 일부 주법을 무효화할 수 있는 유일한 기관으로 상무부를 지정합니다.

Anthropic은 두 가지 캘리포니아 AI 안전법을 지지했지만 연방 법안을 공개적으로 지지하지는 않았습니다. POLITICO에 따르면 하원에서는 Lori Trahan 의원(민주당-매사추세츠)과 Jay Obernolte 의원(공화당-캘리포니아)이 FRONTIER 법안을 주도하고 있으며 이 법안은 일부 주법에도 우선합니다.

상원에서는 존 툰(John Thune) 원내대표와 에이미 클로부샤(민주-미네소타) 상원의원, 테드 크루즈(공화-텍사스) 상원의원이 치명적인 AI 위험에 관한 법안을 협상하고 있습니다. Greg Casar(D-Texas) 하원의원과 Bernie Sanders(I-Vt.) 상원의원은 첨단 AI 개발을 완전히 중단할 것을 촉구했습니다.

전체적으로 Anthropic의 청구서 쇼핑은 AI 회사가 자체 규칙 작성을 돕기 위한 최신 노력입니다. 지난달 CEO Dario Amodei는 공유 안전 표준에 동의하는 등 업계에 “최초의 발전”을 촉구했으며 OpenAI CEO인 Sam Altman은 신속하게 이 아이디어를 승인했습니다. 몇 주 후, Amodei, Greg Brockman, Jensen Huang, Elon Musk, Sundar Pichai 및 Mark Zuckerberg는 Super Intelligence에 관한 백악관 협약에 서명했습니다.

Mashable이 이전에 보고한 바와 같이, 자발적인 협약에는 시행 메커니즘이나 처벌이 없습니다.