인공 지능 분야에서 대륙의 리더가 되려는 남아프리카 공화국의 야망은 매우 난처한 장애물에 부딪혔습니다. 국가의 국가 AI 정책 초안에는 인공 지능이 생성한 것으로 보이는 허위 인용이 포함된 것으로 밝혀진 후 철회되어야 했습니다.

로이터 통신은 해당 문서가 출처 목록에서 조작된 참조가 발견되었을 때 의회에서 거의 마무리 단계에 이르렀다고 보도했습니다. 남아프리카공화국의 통신 및 디지털 기술부 장관인 솔리 말라치(Solly Malatsi)는 4월 26일 X에 게시된 성명을 통해 철회를 발표하면서 이러한 실수는 정책 무결성에 대한 직접적인 타협이라고 말했습니다.

이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.

Malatsi는 “이번 실패는 단순한 기술적 문제가 아니라 정책 초안의 무결성과 신뢰성을 손상시켰다”고 썼습니다. “가장 그럴듯한 설명은 AI가 생성한 인용이 적절한 검증 없이 포함되었다는 것입니다. 이런 일이 일어나서는 안 됩니다. 사실, 이러한 용납할 수 없는 실수는 인공 지능 사용에 대한 인간의 경계심 깊은 감독이 왜 중요한지를 입증합니다.”

Mashable이 반복적으로 보고한 것처럼 AI 환각은 언어 모델에서 완고하고 다루기 힘든 문제로 남아 있습니다.

가짜 인용은 법률 문서에서 특히 문제가 되었으며, 점점 더 많은 미국 변호사들이 환각으로 가득 찬 AI 생성 법률 서류를 제출하여 체포되고 질책당했습니다. 변호사이자 데이터 과학자인 Damien Charlotin이 관리하는 온라인 법적 환각 데이터베이스는 미국에서만 그러한 사례를 900건 이상 발견했습니다(최근의 사태를 제외하면 남아프리카공화국에서는 4건).

철회된 정책에는 민간 부문 투자를 촉진하기 위한 세금 인센티브, 보조금 및 보조금과 함께 국가 AI 위원회, 윤리 위원회, 규제 기관의 설립이 명시되어 있었습니다. 로이터에 따르면 남아프리카 공화국의 명시된 목표는 AI 혁신을 위한 아프리카 최고의 허브로 자리매김하는 것이었습니다.

Malatsi의 성명에는 수정된 초안이 언제 작성될지에 대한 일정이 명시되어 있지 않습니다.