OpenAI는 캘리포니아가 1년도 채 되지 않아 결승선을 통과하는 데 도움이 된 AI 안전법을 강화하기를 원합니다.
OpenAI는 LinkedIn에 게시한 게시물에서 Gavin Newsom 주지사가 2025년 9월에 법으로 서명한 프론티어 인공 지능의 투명성법(SB 53) 개정에 대한 사례를 제시했습니다. OpenAI는 이 법에 새로운 이빨이 필요하다고 말합니다. 특히 프론티어 AI 모델이 제3자의 보안 통제를 우회하거나 가져서는 안 되는 기밀 정보를 얻을 수 있다는 징후를 찾기 위해 훈련 또는 평가 중에 모니터링해야 하는 요구 사항이 필요합니다.
또한 회사는 AI 시스템이 내부 보호 장치를 우회하는 것을 방지하기 위해 전체 모델 개발 프로세스에 걸쳐 사이버 보안 강화를 추진하고 있습니다.
맥락상 SB 53은 통과 당시 이미 상당히 중요한 법안이었습니다. 주지사 사무실에 따르면, 이 법은 대규모 개척 AI 개발자들이 안전 프레임워크를 게시하고, 중요한 안전 사고를 캘리포니아 응급 서비스국에 보고하기 위한 공식 채널을 구축하고, 내부 고발자를 보호하고, 준수하지 않는 회사에 민사 처벌을 부과할 수 있는 권한을 주 법무장관에게 부여하도록 요구합니다.
매쉬 가능한 광속
또한 안전 및 형평성 연구를 강화하기 위한 공공 컴퓨팅 컨소시엄인 CalCompute를 창설했으며, 기술이 변화함에 따라 주에서는 매년 법률을 재검토해야 합니다. Newsom은 당시 캘리포니아가 주 경제의 큰 부분을 차지한 AI 산업을 막지 않고도 대중을 보호할 수 있다는 증거로 이를 제시했습니다. 이는 또한 워싱턴이 실제 연방 AI 정책과 유사한 어떤 것도 통과시키지 못하는 데 대한 임시방편이라고도 불렸습니다.
그렇다면 OpenAI가 자사의 더 넓은 전략을 “역연방주의”라고 부르는 것은 이해가 됩니다. 이는 의회가 계속해서 포괄적인 AI 법안에 손을 대는 동안 주정부가 결국 국가 정책으로 전환될 수 있는 호환 가능한 안전 표준을 먼저 추진할 수 있다는 아이디어입니다.
회사는 이 요청이 “특정 사건에 대한 규칙을 작성하는 것”이 아니라 문제를 더 일찍 포착하고 교훈이 업계 전반에 공유되도록 하는 프레임워크를 구축하는 것이라고 주장하면서 이를 사후 대응이 아닌 미래 지향적으로 구성하도록 주의했습니다. 이러한 요구는 모두 훌륭하고 OpenAI를 편리하게 유지하여 이러한 표준이 어떻게 생겼는지 형성하는 데 도움이 됩니다.
공개: Mashable의 모회사인 Ziff Davis는 2025년 4월 OpenAI가 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 상대로 소송을 제기했습니다.
자세한 정보 확인