OpenAI CEO인 Sam Altman은 현재 일부 법정 드라마에 휩싸여 있지만 OpenAI 연구소의 엔지니어들은 방금 ChatGPT를 사용하여 사소한 드라마(정말 코미디)를 해결했습니다.

OpenAI는 웹사이트에 고블린에 관한 길고 자세한 보고서를 게시했습니다. 아뇨, 정말요. GPT 5.1이 출시된 이후 ChatGPT 모델은 고블린과 그렘린에 대한 이상한 집착을 발전시켜 왔으며, 말이 되지 않는 맥락에서 정기적으로 두 가지를 모두 언급했습니다. 사용자들은 이 사실을 주목했고 OpenAI도 이 사실을 알아차려 조사를 촉발했습니다. 모든 흥미진진한 세부 사항을 원한다면 전체 보고서를 읽을 수 있지만 기본적으로 모든 것은 괴상한 사람들이 어떤 것인지에 대한 이해가 부족하다는 점에서 비롯됩니다.

ChatGPT를 사용하지 않는 경우 AI 챗봇은 응답 톤을 맞춤화하도록 선택할 수 있는 다양한 “개성”을 제공합니다. 그러한 성격 중 하나는 (최근 제거되기 전까지) “괴짜”였습니다. OpenAI의 연구에 따르면 “nerdy” 응답은 전체 ChatGPT 쿼리 중 2.5%에 불과했지만, 고블린에 대한 전체 언급 중 무려 66.7%가 그 2.5%에서 나왔습니다. 거기에서 이러한 반응은 어떻게든 “보상”이 되었고 “괴짜”를 넘어 다른 성격 유형으로 퍼졌습니다.

OpenAI는 “보상은 Nerdy 조건에만 적용되었지만 강화 학습은 학습된 행동이 이를 생성한 조건에 맞게 깔끔하게 유지된다는 것을 보장하지 않습니다.”라고 썼습니다. “일단 스타일 틱이 보상되면 이후 교육을 통해 이를 다른 곳으로 확산하거나 강화할 수 있습니다. 특히 해당 출력이 감독된 미세 조정 또는 선호도 데이터에서 재사용되는 경우 더욱 그렇습니다.”

어쨌든 결국 OpenAI는 3월에 “괴상한” 성격을 폐기하고 최신 모델에 말이 되지 않는 한 고블린이나 그렘린을 언급하지 말라고 지시했습니다.