Theo quy tắc thực hành an toàn mới của Ofcom, các công ty truyền thông xã hội phải thực hiện việc kiểm tra độ tuổi một cách hiệu quả và “thuần hóa các thuật toán độc hại” đề xuất nội dung có hại cho trẻ em.
Được Ofcom xuất bản vào ngày 8 tháng 4 năm 2024, các quy tắc an toàn dành cho trẻ em bao gồm hơn 40 biện pháp được thiết kế để giúp các công ty truyền thông xã hội tuân thủ các nghĩa vụ pháp lý mới do Đạo luật An toàn Trực tuyến (OSA) đặt ra để bảo vệ những người dưới 18 tuổi sử dụng dịch vụ của họ.
Được thông qua vào tháng 10 năm 2023, các nghĩa vụ mà OSA đặt ra trên nền tảng kỹ thuật số có nghĩa là chúng phải ngăn trẻ em truy cập nội dung có hại hoặc không phù hợp với lứa tuổi (chẳng hạn như nội dung khiêu dâm hoặc bài đăng cổ vũ việc tự làm hại bản thân); thực thi giới hạn độ tuổi và thực hiện các biện pháp kiểm tra độ tuổi; và tiến hành đánh giá rủi ro về những nguy hiểm do dịch vụ của họ gây ra cho trẻ em.
Nó cũng bao gồm nghĩa vụ phải nhanh chóng xóa nội dung bất hợp pháp hoặc ngăn chặn nội dung đó xuất hiện ngay từ đầu.
Theo quy định, Ofcom yêu cầu mọi dịch vụ internet mà trẻ em có thể truy cập (bao gồm cả mạng truyền thông xã hội và công cụ tìm kiếm) phải thực hiện việc kiểm tra độ tuổi một cách chặt chẽ; định cấu hình thuật toán của họ để lọc ra nội dung có hại nhất khỏi nguồn cấp dữ liệu dành cho trẻ em này; và triển khai các quy trình kiểm duyệt nội dung để đảm bảo hành động nhanh chóng được thực hiện đối với nội dung này.
“Theo luật an toàn trực tuyến mới, các quy tắc được đề xuất của chúng tôi đặt trách nhiệm đảm bảo an toàn cho trẻ em một cách chắc chắn cho các công ty công nghệ. Họ sẽ cần phải chế ngự các thuật toán mạnh mẽ đẩy nội dung có hại đến trẻ em trong nguồn cấp dữ liệu được cá nhân hóa của chúng và đưa ra biện pháp kiểm tra độ tuổi để trẻ em có được trải nghiệm phù hợp với lứa tuổi của mình”, giám đốc điều hành Ofcom Melanie Dawes cho biết.
“Các biện pháp của chúng tôi – vượt xa các tiêu chuẩn hiện tại của ngành – sẽ mang lại bước thay đổi về an toàn trực tuyến cho trẻ em ở Vương quốc Anh. Khi chúng có hiệu lực, chúng tôi sẽ không ngần ngại sử dụng toàn bộ quyền lực thực thi của mình để buộc các nền tảng phải chịu trách nhiệm. Đó là lời hứa mà chúng tôi đưa ra với trẻ em và các bậc cha mẹ ngày nay.”
Dự thảo quy tắc cũng bao gồm các biện pháp để đảm bảo sự tuân thủ của các công ty công nghệ, bao gồm cả việc chỉ định một người cấp cao được nêu tên chịu trách nhiệm về việc tuân thủ các nghĩa vụ an toàn của trẻ em; đánh giá hàng năm của cơ quan cấp cao về tất cả các hoạt động quản lý rủi ro liên quan đến an toàn của trẻ em; và quy tắc ứng xử của nhân viên đặt ra các tiêu chuẩn cho nhân viên trong việc bảo vệ trẻ em.
Ofcom cho biết họ sẽ triển khai một cuộc tư vấn bổ sung vào cuối năm nay về cách sử dụng các công cụ tự động, bao gồm cả trí tuệ nhân tạo (AI), để chủ động phát hiện nội dung bất hợp pháp và nội dung có hại nhất cho trẻ em, bao gồm cả nội dung và tài liệu lạm dụng tình dục trẻ em (CSAM) chưa bị phát hiện trước đây. khuyến khích tự tử và tự làm hại bản thân.
Hiện đang có một cuộc tham vấn mở về các dự thảo luật, với kế hoạch hoàn thiện các dự thảo trong vòng một năm và chúng sẽ có hiệu lực sau ba tháng.
Digital cho biết: “Chính phủ đã giao cho Ofcom thực hiện hành động này và hôm nay cơ quan quản lý đã nói rõ: các nền tảng phải giới thiệu các loại trải nghiệm kiểm tra độ tuổi mà giới trẻ trải nghiệm trong thế giới thực và giải quyết các thuật toán vốn quá dễ dàng khiến họ gặp phải nội dung có hại trên mạng”. thư ký Michelle Donelan. “Một khi được thực hiện, những biện pháp này sẽ mang lại sự thay đổi cơ bản trong cách trẻ em ở Anh trải nghiệm thế giới trực tuyến.”
Tamsin Allen, một đối tác truyền thông tại công ty luật Bindmans, nói rằng các đề xuất của Ofcom là “bước đầu tiên đáng khích lệ, nhưng bằng chứng về cam kết của họ sẽ là việc họ sẵn sàng áp dụng các biện pháp trừng phạt đối với công nghệ lớn vì không tuân thủ. Đạo luật này mang lại cho họ những quyền lực mới để phạt các công ty chiếm tới 10% doanh thu toàn cầu, những khoản tiền khổng lồ cuối cùng có thể xuyên thủng áo giáp của các công ty công nghệ lớn.”
Mối quan tâm đang diễn ra
Tuy nhiên, OSA đã gây lo ngại cho cả các công ty công nghệ và các tổ chức xã hội dân sự về một số điều khoản có thể làm suy yếu thông tin liên lạc được mã hóa, quyền riêng tư và quyền tự do ngôn luận.
Ví dụ, các nhà vận động bảo mật tại Open Rights Group (ORG) cho biết việc triển khai các hệ thống đảm bảo độ tuổi – bao gồm đối sánh ID ảnh, ước tính độ tuổi khuôn mặt và các dịch vụ nhận dạng kỹ thuật số có thể tái sử dụng – để hạn chế quyền truy cập của trẻ em có thể vô tình hạn chế quyền tự do ngôn luận của cá nhân. đồng thời khiến họ gặp rủi ro an ninh mạng ngày càng cao.
Giám đốc điều hành Jim Killock cho biết: “Người lớn sẽ phải đối mặt với sự lựa chọn: hoặc hạn chế quyền tự do ngôn luận bằng cách không truy cập nội dung hoặc đặt mình trước những rủi ro bảo mật ngày càng tăng do vi phạm dữ liệu và các trang web lừa đảo”.
“Một số nhà cung cấp ở nước ngoài có thể chặn quyền truy cập vào nền tảng của họ từ Vương quốc Anh thay vì tuân thủ các biện pháp nghiêm ngặt này. Chúng tôi cũng lo ngại rằng tài liệu giáo dục và trợ giúp – đặc biệt là những tài liệu liên quan đến tình dục, bản dạng giới, ma túy và các chủ đề nhạy cảm khác – có thể bị hệ thống kiểm duyệt từ chối tiếp cận giới trẻ.
“Rủi ro đối với trẻ em sẽ tiếp tục xảy ra với những biện pháp này. Các cơ quan quản lý cần thay đổi cách tiếp cận của họ theo hướng trao quyền cho trẻ em hiểu những rủi ro mà chúng có thể gặp phải, đặc biệt là khi giới trẻ có thể tìm kiếm nội dung, cho dù nội dung đó có sẵn cho họ hay không.”
Robin Tombs, Giám đốc điều hành của công ty sinh trắc học Yoti, lập luận rằng mặc dù “không có viên đạn bạc nào khi nói đến sự an toàn của trẻ em”, công nghệ kiểm tra độ tuổi hiệu quả sẽ là một phần thiết yếu trong việc bảo vệ trẻ em truy cập nội dung có hại trực tuyến.
“Điều quan trọng là mọi người được quyền lựa chọn cách chứng minh độ tuổi của mình để đảm bảo việc đảm bảo độ tuổi mang tính toàn diện và dễ tiếp cận đối với tất cả mọi người. Rất may, Ofcom đã nhận ra rằng ước tính tuổi khuôn mặt, dịch vụ nhận dạng kỹ thuật số có thể tái sử dụng và đối chiếu ID ảnh đều là những giải pháp hiệu quả cao,” ông nói.
Về rủi ro đối với mã hóa, các dịch vụ nhắn tin và email được mã hóa như WhatsApp, Signal và Element trước đây đã đe dọa rút khỏi Vương quốc Anh nếu Ofcom yêu cầu họ cài đặt “công nghệ được công nhận” để giám sát thông tin liên lạc được mã hóa đối với nội dung bất hợp pháp.
Điều này dựa trên cơ sở mục 122 của đạo luật trao quyền cho Ofcom yêu cầu các công ty công nghệ cài đặt các hệ thống mà họ cho rằng sẽ làm suy yếu tính bảo mật và quyền riêng tư của các dịch vụ được mã hóa bằng cách quét nội dung của mọi thư và email để kiểm tra xem chúng có chứa CSAM hay không.
Mặc dù không có nội dung nào trong dự thảo đề cập đến các dịch vụ mã hóa, nhưng Ofcom cho biết họ sẽ công bố các đề xuất cụ thể vào cuối năm 2024 về việc sử dụng “thông báo công nghệ” để yêu cầu các dịch vụ, trong một số trường hợp nhất định, sử dụng các công nghệ được công nhận để xử lý các loại nội dung bất hợp pháp cụ thể.
“Chúng tôi hy vọng điều này sẽ bao gồm hướng dẫn về cách chúng tôi sử dụng những quyền hạn này, lời khuyên của chúng tôi cho chính phủ về các tiêu chuẩn chính xác tối thiểu và cách tiếp cận của chúng tôi đối với việc công nhận công nghệ,” nó cho biết.