Vào ngày 27 tháng 1 năm 2024, Ủy ban Tư pháp và Nội vụ tại Hạ viện đã trở thành cơ quan có tiếng nói mới nhất đặt câu hỏi về tính hợp pháp của việc cảnh sát sử dụng công nghệ nhận dạng khuôn mặt trực tiếp ở Anh và xứ Wales – và bị phớt lờ.
Bị cảnh sát ở Anh và xứ Wales phớt lờ, những người tiếp tục sử dụng công nghệ “so sánh nguồn cấp dữ liệu video camera trực tiếp về các khuôn mặt với danh sách theo dõi được xác định trước gồm những người để tìm ra sự trùng khớp có thể xảy ra”.
Bị chính phủ phớt lờ, chỉ có chính phủ mới có quyền ra lệnh tạm dừng công nghệ này cho đến khi Quốc hội thông qua đạo luật tạo ra nền tảng pháp luật rõ ràng cho việc sử dụng nó và khuôn khổ pháp lý cho quy định của nó.
Và bị công chúng phớt lờ, những người có quyền riêng tư, quyền tự do dân sự và nhân quyền đã bị xói mòn trong nhiều năm khi chính phủ và cảnh sát buộc họ phải sử dụng một công nghệ được coi là có rủi ro cao, Liên minh Châu Âu (EU) phần lớn đã cấm cảnh sát sử dụng nó, như có một số thành phố, quận và tiểu bang của Hoa Kỳ.
Theo Đạo luật AI của EU, việc cơ quan thực thi pháp luật sử dụng hệ thống nhận dạng sinh trắc học bị cấm “ngoại trừ trong các tình huống được liệt kê đầy đủ và được xác định trong phạm vi hẹp” như tìm kiếm người mất tích hoặc ngăn chặn một cuộc tấn công khủng bố, vốn cần có sự cho phép của thẩm phán. Ngay cả việc cảnh sát sử dụng công nghệ này trong quá khứ cũng cần có sự chấp thuận của thẩm phán. Việc sử dụng các ứng dụng AI như “cạo không có mục tiêu các hình ảnh khuôn mặt từ internet hoặc đoạn phim CCTV để tạo cơ sở dữ liệu nhận dạng khuôn mặt” cũng bị cấm.
Tất cả những điều đó làm cho quan điểm của người Anh trở nên khó hiểu, lúng túng và gây tổn hại.
Thật khó hiểu, bởi vì khi chúng tôi tổ chức Hội nghị thượng đỉnh về an toàn AI đầu tiên trên thế giới sáu tháng trước, thủ tướng Rishi Sunak đã thông báo rằng ông sẽ không “vội vàng điều chỉnh” AI bởi vì, “Làm thế nào chúng ta có thể viết ra những luật có ý nghĩa đối với những thứ mà chúng ta chưa hoàn toàn hiểu rõ. hiểu?” Các đối tác EU và Hoa Kỳ của ông đã kiềm chế không chỉ ra rằng họ đã quản lý nó một cách dễ dàng.
Thật đáng xấu hổ, bởi vì thủ tướng của chúng ta hoặc không biết gì về nghiên cứu xuất sắc và phong phú về những rủi ro của công nghệ nhận dạng khuôn mặt trực tiếp, hoặc chọn cách phớt lờ nó.
Vì làm sao khác mà ông và các cố vấn của mình có thể không biết rằng vào tháng 10 năm 2023, các nghị sĩ và đồng nghiệp đã kêu gọi “ngưng ngay lập tức” việc giám sát nhận dạng khuôn mặt trực tiếp? Hay vào năm 2019, Ủy ban Khoa học và Công nghệ tại Hạ viện đã kêu gọi tạm dừng công nghệ nhận dạng khuôn mặt cho đến khi Quốc hội thông qua luật mới? Hoặc Lord Clement-Jones trong House of Lords đã tìm kiếm dự luật tương tự của một thành viên tư nhân? Hay đánh giá độc lập của Matthew Ryder KC và báo cáo của Viện Ada Lovelace vào năm 2022 đều cảnh báo về những rủi ro của công nghệ nhận dạng khuôn mặt? Hay Ed Bridges và Liberty đã đưa ra thách thức pháp lý đối với việc Cảnh sát Nam Wales sử dụng công nghệ nhận dạng khuôn mặt vào năm 2020 – và đã thắng?
Thiệt hại, bởi vì Vương quốc Anh vận hành mô hình “kiểm soát theo sự đồng ý”. Tuy nhiên, công chúng chưa bao giờ đồng ý sử dụng công nghệ nhận dạng khuôn mặt trực tiếp. Các đại diện được bầu của chúng tôi chưa bao giờ bỏ phiếu về nó. Ngược lại, cảnh sát sử dụng công nghệ này đối với chúng tôi mà không có sự đồng ý của chúng tôi và thường là chúng tôi không hề biết.
Nam tước Hamwee, chủ tịch Ủy ban Tư pháp và Nội vụ tại Hạ viện, nói rõ lý do tại sao điều này là không thể chấp nhận được: “Quy định hiện tại là chưa đủ. Việc giám sát là chưa đủ (…) Chúng tôi là một quốc gia dân chủ vượt trội hơn về tốc độ áp dụng công nghệ này.”
Bỏ qua tất cả những rủi ro này hơn là việc xác định sai hoặc “mộng du vào một trạng thái cảnh sát toàn trí, ghê rợn, Orwellian” như cựu ủy viên Cảnh sát Thủ đô Cressida Dick đã cảnh báo vào năm 2019. Nó làm suy yếu niềm tin của công chúng đối với cảnh sát – vốn đã rất mong manh. Năm ngoái, Baroness Casey Review đã cảnh báo rằng Met, một trong những đơn vị sử dụng công nghệ nhận dạng khuôn mặt trực tiếp tích cực nhất ở Vương quốc Anh, “không còn có thể cho rằng họ được người dân London cho phép để cảnh sát họ” do thể chế phân biệt chủng tộc, thái độ sai lầm của họ. và sự kỳ thị đồng tính.
Việc cho phép lực lượng cảnh sát như vậy sử dụng công nghệ có rủi ro cao mà không có nền tảng pháp luật rõ ràng và không có khung pháp lý để điều chỉnh là một hành vi không thể chấp nhận được đối với công chúng. Nó cũng khiến cảnh sát có nguy cơ gặp phải những thách thức pháp lý hơn nữa mà người nộp thuế sẽ phải tài trợ.
Bỏ qua điều này là không thể chấp nhận được. Chính phủ phải chỉ đạo Quốc hội thông qua luật khẩn trương. Việc không làm như vậy chỉ có nghĩa là một điều – rằng nó không quan tâm đến những rủi ro mà công nghệ nhận dạng khuôn mặt trực tiếp gây ra cho công chúng hoặc cảnh sát, và nó không nghiêm túc với việc muốn trở thành người dẫn đầu về trí tuệ nhân tạo.