Các lãnh chúa bị chia rẽ về quan điểm của họ về cách tiếp cận vũ khí tự động của chính phủ Anh, một số tranh luận về mức độ thận trọng cao hơn nhiều và những người khác kêu gọi bớt kiềm chế hơn để vượt lên trước đối thủ.
Vào đầu tháng 12 năm 2023, một ủy ban của Lords đã kêu gọi chính phủ Anh “tiến hành một cách thận trọng” khi triển khai các hệ thống vũ khí tự động (AWS) và các khả năng quân sự được hỗ trợ bởi trí tuệ nhân tạo (AI) khác, sau khi nhận thấy rằng chính phủ đã hứa sẽ tiếp cận AI quân sự. một cách “tham vọng, an toàn và có trách nhiệm” chưa sát thực tế.
Các khuyến nghị chính của Ủy ban Hệ thống Vũ khí AI bao gồm chính phủ đảm bảo sự kiểm soát của con người ở tất cả các giai đoạn trong vòng đời của AWS; áp dụng định nghĩa hoạt động, bất khả tri về công nghệ của AWS để có thể đưa ra các quyết định chính sách có ý nghĩa; và thiết kế phù hợp các quy trình mua sắm cho một thế giới do AI điều khiển để có trách nhiệm giải trình phù hợp. Nó cũng khuyến nghị cấm hoàn toàn AI trong chỉ huy và kiểm soát hạt nhân.
Trả lời những phát hiện của ủy ban đó vào cuối tháng 3 năm 2024, chính phủ khẳng định họ đã hành động có trách nhiệm một cách thận trọng và ưu tiên của Bộ Quốc phòng (MoD) với AI là tối đa hóa khả năng quân sự khi đối mặt với những kẻ thù tiềm tàng. tuyên bố “không có khả năng chịu trách nhiệm”.
Chính phủ nói thêm rằng mặc dù hoan nghênh “phân tích kỹ lưỡng và kích thích tư duy”, thông điệp chung của ủy ban rằng họ phải tiến hành thận trọng đã “phản ánh cách tiếp cận của Bộ Quốc phòng đối với việc áp dụng AI”.
Trong cuộc tranh luận về những phát hiện của ủy ban và phản ứng của chính phủ được tổ chức vào ngày 19 tháng 4 năm 2024, Lords đã bày tỏ những quan điểm trái ngược nhau về cách tiếp cận vũ khí tự động của Vương quốc Anh. Ví dụ, trong khi một số người chỉ trích chính phủ vì miễn cưỡng đặt ra các giới hạn đối với việc sử dụng AWS, thì những người khác cho rằng sự thận trọng quá mức sẽ cản trở tiến trình và khiến Vương quốc Anh tụt lại phía sau các đối thủ địa chính trị.
Tuy nhiên, chính phủ vẫn khẳng định rằng việc sử dụng vũ khí tự động đã được điều chỉnh bởi luật nhân đạo quốc tế (IHL), do đó không cần thiết phải đưa ra định nghĩa hoạt động hoặc cam kết với bất kỳ công cụ pháp lý quốc tế nào kiểm soát việc sử dụng chúng.
Quy định ‘một món quà cho đối thủ của chúng ta’
Xây dựng quan điểm của chính phủ trong cuộc tranh luận của các Lãnh chúa, Bộ trưởng Bộ Quốc phòng, Bá tước Minto, nói rằng việc đặt ra định nghĩa hoạt động cho AWS hoặc tạo ra các công cụ quốc tế mới để kiểm soát việc sử dụng chúng sẽ chỉ mang lại lợi ích cho kẻ thù của Vương quốc Anh.
“Những hệ thống này đã được điều chỉnh bởi luật nhân đạo quốc tế nên thật không may, việc xác định chúng sẽ không củng cố việc sử dụng hợp pháp của chúng. Thật vậy, có thể thấy trước rằng, trong các cuộc đàm phán quốc tế, những người cố tình coi thường luật pháp và chuẩn mực quốc tế có thể sử dụng một định nghĩa để hạn chế khả năng và hoạt động nghiên cứu hợp pháp của các quốc gia có trách nhiệm”, ông nói.
“Cũng vì lý do đó mà sau khi xem xét chân thành và sâu sắc, chúng tôi không ủng hộ lời kêu gọi của ủy ban về một thỏa thuận nhanh chóng về một công cụ quốc tế hiệu quả về hệ thống vũ khí tự động sát thương – đó sẽ là một món quà cho kẻ thù của chúng ta.”
Minto nói thêm rằng thay vì dựa vào một định nghĩa hoặc tài liệu, biện pháp bảo vệ chính đối với AI quân sự là đảm bảo sự tham gia của con người trong suốt vòng đời của một hệ thống nhất định. Cùng với điều này, ông cũng làm rõ rằng chính phủ không có ý định tạo ra vũ khí tự động hoàn toàn hoặc nhượng lại “quyền kiểm soát chính trị” về khả năng hạt nhân của Vương quốc Anh cho AI.
Ông nói: “Bộ Quốc phòng Anh sẽ luôn có sự tham gia của con người phù hợp với bối cảnh và do đó, sự kiểm soát, trách nhiệm và trách nhiệm giải trình của con người có ý nghĩa”. “Tuy nhiên, chúng tôi biết rằng các quốc gia khác chưa đưa ra cam kết tương tự và có thể tìm cách sử dụng những công nghệ mới này một cách vô trách nhiệm”.
Do đó, ông nói thêm rằng Vương quốc Anh sẽ làm việc với các đồng minh để thiết lập các tiêu chuẩn cho AI quân sự có trách nhiệm – mà ông nói sẽ dựa trên IHL – đồng thời làm việc để xác định và quy kết việc sử dụng công nghệ quân sự nguy hiểm để giúp buộc “các bên vô trách nhiệm phải tuân theo tài khoản”.
Mặc dù không có sự hỗ trợ nào từ chính phủ đối với định nghĩa hoặc công cụ pháp lý, Minto cho biết Vương quốc Anh sẽ tiếp tục tham gia vào các cuộc đối thoại quốc tế xung quanh việc quản lý vũ khí tự trị, đặc biệt là nhóm chuyên gia chính phủ của Liên hợp quốc (LHQ) làm việc trong phạm vi của Công ước. về một số loại vũ khí thông thường.
Lãnh chúa phản ứng
Trong cuộc tranh luận, Lords bày tỏ nhiều ý kiến trái chiều về quan điểm của chính phủ và phản ứng của chính phủ đối với ủy ban.
Ví dụ, chủ tịch ủy ban Lord Lisvane cho biết mục tiêu của chính phủ là tạo ra AI quân sự “đầy tham vọng, an toàn và có trách nhiệm” giờ đây phải được chuyển sang triển khai thực tế và đặc biệt chỉ trích quyết định không áp dụng định nghĩa hoạt động của AWS.
“Tôi nghe những gì chính phủ nói, nhưng tôi không bị thuyết phục. Tôi tin rằng có thể tạo ra một định nghĩa phù hợp với tương lai,” ông nói. “Làm như vậy sẽ hỗ trợ khả năng của Vương quốc Anh trong việc đưa ra chính sách có ý nghĩa về vũ khí tự động và tham gia đầy đủ vào các cuộc thảo luận trên các diễn đàn quốc tế. Nó sẽ khiến chúng tôi trở thành một cầu thủ hiệu quả và có ảnh hưởng hơn.”
Ông cũng nói rằng chính phủ nên làm gương trong các cuộc thảo luận quốc tế xung quanh quy định của AWS, lưu ý rằng dù kết quả là một hiệp ước ràng buộc về mặt pháp lý hay các biện pháp không chính thức hơn làm rõ cách áp dụng IHL thì thỏa thuận về “một công cụ quốc tế hiệu quả phải là một ưu tiên cao”.
Lisvane nói thêm rằng mặc dù chính phủ chấp nhận một số khuyến nghị của ủy ban – bao gồm tầm quan trọng của trách nhiệm giải trình của quốc hội, sự kiểm soát của con người đối với chỉ huy hạt nhân và cải thiện các hoạt động mua sắm của Bộ Quốc phòng đối với phần mềm và dữ liệu – phản hồi của họ cung cấp rất ít hoặc không có thông tin chi tiết về cách thức thực hiện các điểm này. sẽ đạt được.
“Nhìn chung, phản hồi của chính phủ đối với báo cáo của chúng tôi là ‘có mục đích mang tính xây dựng’. Tôi hy vọng điều đó không có vẻ quá miễn cưỡng”, ông nói. “Họ đã nhận thức rõ ràng vai trò của AI có trách nhiệm đối với khả năng phòng thủ trong tương lai của chúng ta, nhưng họ phải đưa các nguyên tắc đạo đức và pháp lý vào tất cả các giai đoạn thiết kế, phát triển và triển khai. Công nghệ nên được sử dụng khi có lợi nhưng không phải trả cái giá không thể chấp nhận được đối với các nguyên tắc đạo đức của Vương quốc Anh.”
Lord Clement-Jones, người ngồi trong ủy ban sau khi thúc đẩy việc thành lập nó, cũng nói thêm rằng bất chấp sự đồng thuận gần như toàn cầu về nhu cầu quản lý AWS, chính phủ Anh vẫn chưa chính thức xác nhận bất kỳ hạn chế nào đối với việc sử dụng nó ngoài một loạt các quy định. những cam kết mơ hồ xung quanh sự giám sát của con người và các ranh giới đỏ về đạo đức.
Nhấn mạnh việc sử dụng hệ thống AI để chỉ định các mục tiêu ở Gaza, cũng như việc sử dụng máy bay không người lái tự động ở Libya, Syria và Ukraine, Clement-Jones cho biết điều này cho thấy sự cấp thiết của nhu cầu điều chỉnh AWS, mà ông nói thêm rằng ít nhất nên bắt đầu từ đó. Một định nghĩa thiết thực.
“Sự mâu thuẫn trong cách chúng tôi xác định và hiểu AWS có ý nghĩa quan trọng đối với sự phát triển và quản trị các công nghệ này. Tuy nhiên, ủy ban đã chứng minh rằng có thể có một định nghĩa hoạt động, phân biệt giữa các hệ thống tự động hoàn toàn và một phần. Điều này rõ ràng vẫn bị chính phủ phản đối, như phản ứng của họ đã cho thấy.”
Lord Browne, người cũng ngồi trong ủy ban, cho biết lời giải thích của chính phủ về lý do tại sao một định nghĩa về AWS là không cần thiết “rõ ràng là không đủ”, đồng thời nói thêm: “Làm thế nào chúng ta có thể tích cực tìm cách tham gia vào chính sách điều chỉnh AWS nếu chúng ta không thể tìm thấy ngay cả những từ tạm thời với cái nào để xác định nó? Nó giống như việc cố gắng may một bộ vest cho một người đàn ông có số đo được giữ bí mật và sự tồn tại của người đó chỉ là tin đồn.”
Ông nói thêm rằng mặc dù đây là một chủ đề phức tạp nhưng “sự phức tạp không phải là nơi ẩn náu mà là một lời quở trách” trong việc hoạch định chính sách tốt. “Nhiệm vụ của các chính phủ thuộc bất kỳ đảng phái chính trị nào là có thể trình bày rõ ràng cách tiếp cận của mình và được các chuyên gia cũng như những tiếng nói bất đồng chính kiến kiểm tra.”
Tuy nhiên, các Lãnh chúa khác ít chỉ trích quan điểm của chính phủ hơn và thay vào đó lập luận rằng cần ít thận trọng hơn và tiêu cực hơn xung quanh những hậu quả tiềm ẩn của AI quân sự.
Lord Houghton, người ngồi trong ủy ban nhưng nhấn mạnh rằng ông ấy đang phát biểu với tư cách cá nhân trong cuộc tranh luận, chẳng hạn, cho biết trong khi các yêu cầu của bất kỳ quy định nào “chắc chắn sẽ hạn chế chúng tôi theo những cách mà rõ ràng là sẽ không gây rắc rối cho nhiều kẻ thù tiềm năng của chúng tôi”, những lợi thế chiến lược có thể có được từ AWS lớn đến mức “chúng tôi sẽ rất điên rồ nếu không tiến hành các cách khai thác nó”.
Ông cũng kêu gọi chính phủ trấn an rằng họ “sẽ không để sự thận trọng quá mức cản trở tiến trình” và nhắm vào sự tiêu cực thể hiện đối với những rủi ro của AI quân sự và đặc biệt là AWS, trong quá trình điều tra của ủy ban.
“Sự tiêu cực không nằm trong số các thành viên của ủy ban mà là ở nhiều nhân chứng chuyên môn của chúng tôi, một số người trong số họ là những kẻ gây ra sự diệt vong về mặt kỹ thuật, trong khi những người khác dường như kiếm sống bằng cách biến vấn đề cuối cùng là vấn đề thực tế của quản lý chiến trường thành một thách thức đạo đức của việc quản lý chiến trường. Sự phức tạp của Gordian,” ông nói.
Nói về AI trong bối cảnh hải quân, Lord Stevens lập luận rằng các hệ thống hỗ trợ AI sẽ cần thiết như một hệ số nhân lực hiệu quả và cần phải thận trọng để đảm bảo quy định của AWS không quá hạn chế.
Ông nói: “Quốc hội sẽ phạm sai lầm nếu chúng ta cố gắng quản lý AI như một loại hệ thống vũ khí riêng biệt, trong khi trên thực tế, nó là một loạt các công nghệ có mục đích chung đang phát triển nhanh chóng”.
“Các hệ thống AI rõ ràng mang lại lợi ích tiềm năng to lớn trong môi trường hàng hải. Nghị viện có thể và nên giúp quốc gia của chúng ta tận dụng chúng… tín hiệu chúng ta nên gửi tới Hải quân Hoàng gia là: tiếp tục tiến hành với tốc độ.”
Lord Hamilton cũng lưu ý tương tự rằng Vương quốc Anh sẽ gặp “bất lợi nghiêm trọng nếu kẻ thù của chúng ta nhiệt tình áp dụng AI còn chúng ta thì không”.
Ông nói thêm rằng việc các lực lượng vũ trang của Vương quốc Anh áp dụng AI là “cực kỳ quan trọng”, vì vậy nó có thể được sử dụng để “cứu mạng sống của quân đội chúng ta và cải thiện cơ hội chiến thắng trong các cuộc chiến”.