Anthropic의 CEO이자 창립자인 Dario Amodei는 최근 AI를 호빗과 비교하는 것으로 시작하는 온라인 에세이를 발표했습니다. 반지의 제왕. 그리고 Anthropic의 Claude Mythos 모델의 시스템 카드를 믿는다면 그것이 유일한 허구가 아닐 수도 있습니다.

Amodei는 “AI와 우리 정치 제도의 교차점은 호빗과 트리비어드와 약간 비슷하다고 느낍니다. 즉, 엔트 트리비어드는 너무 느리게 움직여서 빠른 호빗을 이해할 수조차 없습니다. 그러나 Amodei는 논란의 여지가 있는 주장으로 방향을 틀었습니다. 반지의 제왕 비유하자면 호빗이 움직인다는 뜻이겠죠 항상 기하급수적으로 빨라짐.

Amodei는 “컴퓨팅 성능이 향상됨에 따라 일반적인 인지 능력이 기하급수적으로 증가할 것으로 예측하는 AI의 확장 법칙은 이제 10년이 넘는 경험적 증거를 뒷받침하고 있습니다”라고 주장합니다. “만약 이러한 확장 법칙이 1~2년만 더 지속된다면 우리는 제가 말한 것을 얻을 가능성이 높습니다. 강력한 AI.”

일회성 참조가 아닙니다. 대박 인류학 IPO로 돈을 벌려고 하는 Amodei는 에세이에서 “지수”라는 단어를 6번 사용합니다. 여기에는 “AI 지수에 대한 정책”이라는 제목이 포함됩니다. 하지만 그게 사실인가요?

그의 주장을 입증하기 위해 의심스러운 2020년 OpenAI 논문 Amodei 링크를 잠시 남겨두거나, 대부분의 대형 언어 모델의 “인지 기능”이 그다지 빠르게 성장하지 않는다는 다른 AI 전문가의 풍부한 증거를 남겨두겠습니다. Amodei의 에세이는 인류학이라는 단어 자체와 모순되는 것처럼 보입니다.

Amodei가 사이버 보안 문제에 대해 에세이에서 강조한 모델인 Claude Mythos(PDF)의 미리 보기용 시스템 카드에는 다음과 같은 문구가 있습니다. “우리가 확인할 수 있는 (지능) 이득은 다음과 같습니다. AI 지원이 아닌 인간의 연구에 자신있게 귀속됩니다 … AI가 큰 승리를 거뒀다는 초기 주장은 받아들여지지 않았습니다.” (우리의 것을 강조합니다.)

매쉬 가능한 광속

Anthropic의 다른 새로운 프론티어 모델인 Fable 5에 대한 시스템 카드를 읽지 않는 한 이보다 더 확실할 수는 없다고 생각할 수도 있습니다. Anthropic 연구자들은 Epoch Capability Index라는 테스트를 사용하여 AI 전문가들이 다양하게 AGI 또는 Digital Superintelligence라고 부르는 것으로 이어질 피드백 루프의 증거가 있는지 확인하기 위해 구체적으로 착수했습니다. 그리고 그 결과는 이보다 더 명확할 수 없습니다.

Fable 시스템 카드(PDF)는 “우리는 AI 발전 속도에서 AI로 인한 지속적인 2배 가속을 관찰하지 못했습니다”라고 말합니다.

그렇다면 Amodei는 기하급수적인 정보를 어디서 얻나요? 우리는 설명을 위해 Anthropic에 연락했지만 CEO가 사용하는 인용은 Jared Kaplan(당시 OpenAI와 함께, 현재 Anthropic의 공동 창립자)이 공동 저술한 Scaling Laws for Neural Language models라는 2020년 논문에 대한 것입니다. 이 논문의 결론은 지난 4년 동안 또 다른 선도적인 AI 연구자인 게리 마커스(Gary Marcus)에 의해 의문의 여지가 있었습니다.

Marcus는 2022년에 “확장 주장에는 심각한 허점이 있습니다”라고 썼습니다. “실제로 우리는 이미 아마도 이미 수익 감소 지점에 접근하고 있을 것입니다.” 그는 OpenAI의 GPT-3 모델에 대한 연구를 인용했는데, 이는 “독성, 진실성, 추론 및 상식과 같은 일부 척도에서 확장이 흔들리기 시작한다는 것을 보여주었습니다.”

Marcus는 당시 AI의 진정한 신봉자들로부터 비난을 받았지만 그 이후로 입증되었습니다. 특히 일부 사용자가 기대했던 Superintelligence가 아닌 GPT-5가 출시된 이후 더욱 그렇습니다.

그 이후로 AI가 기하급수적으로 성장했다는 증거를 찾는 것은 단순히 모르도르로 들어가는 것보다 더 어려울 수 있습니다.

Timothy Werth가 추가 보고 제공

주제
인공지능 인류학