The Breach가 발표한 조사와 온타리오 주를 상대로 제기된 집단 소송에 따르면, 온타리오 교도소에서 수감자의 보안 수준을 분류하는 데 사용되는 인공 지능 프로그램이 흑인 수감자를 최대 보안 상태에 불균형적으로 배치하고 있다고 합니다.

언론인 Desmond Cole이 작성한 보도에서는 2021년부터 온타리오 교도소에서 체포 및 징계 이력을 포함한 요소를 기반으로 수감자에게 위험 점수를 할당하는 데 사용되는 SAFER(위험 평가를 위한 보안 평가) 도구를 조사했습니다.

토론토 대학교 범죄학자인 Scot Wortley가 분석한 정부 데이터를 인용하여 이 매체는 흑인이 온타리오 인구의 약 5%를 차지하지만 2022년에서 2025년 사이에 최대 보안 조치를 받는 수감자 중 27%에 가까운 비율을 차지한다고 밝혔습니다. 반면 백인은 인구 비율에 비해 해당 범주에서 상당히 과소대표되었습니다.

로펌인 코스키 민스키(Koskie Minsky)가 제기한 집단소송에서는 주정부가 치안 유지와 기소에 있어 기록된 인종적 격차를 반영하는 역사적 사법 체계 데이터에 대한 도구의 의존이 흑인 수감자들에게 불균형적으로 해를 끼칠 수 있다는 것을 알고 있었으며 온타리오 주가 흑인 수감자들에게 유사한 보호 조치를 적용하지 않고 원주민 수감자들을 위한 완화 조치를 채택했다고 주장했습니다. The Breach가 인용한 내부 사역 훈련 문서는 SAFER와 같은 평가가 최대한의 보안을 유지하면서 원주민과 인종차별을 과도하게 표현하는 데 기여할 가능성이 있음을 인정했습니다.

The Breach는 온타리오 법무부나 SAFER를 설계한 연구원인 Grant Duwe 모두 프로그램의 방법론이나 정확성에 대한 논평 요청에 응답하지 않았다고 보고했습니다. 조사에 언급된 온타리오 옴부즈맨 보고서는 이 도구가 흑인과 원주민 수감자들에게 불균형적으로 영향을 미친다는 불만을 접수했으며 해당 프로그램에 대한 사역 검토가 진행 중이라고 밝혔습니다.