Ghi chú của nhân tâm: Người Mỹ muốn thay đổi trí tuệ nhân tạo quân sự
Nguồn: vgtimes.ru
Quá trình phi nhân hóa kỹ thuật số có bị hủy bỏ không?
Đầu tiên, một lời cảnh báo từ các máy bay chiến đấu AI:
“Máy móc không coi chúng ta là con người, đối với chúng con người chỉ là một đoạn mã cần được xử lý và sắp xếp. Từ nhà thông minh đến sử dụng chó-người máy cảnh sát, công nghệ trí tuệ nhân tạo và ra quyết định tự động bắt đầu đóng một vai trò quan trọng trong cuộc sống của chúng ta. Ở cuối hàng thiết bị kỹ thuật số là những người máy sát thủ. Nếu chúng ta cho phép quá trình phi nhân hóa đi kèm, chúng ta sẽ sớm phải chiến đấu để bảo vệ bản thân khỏi những quyết định do máy móc đưa ra trong các lĩnh vực khác của cuộc sống. Trước tiên chúng ta cần cấm các hệ thống tự trị vũ khíđể ngăn chặn việc trượt vào quá trình phi nhân hóa kỹ thuật số.”
Những người theo chủ nghĩa hòa bình yêu cầu đóng băng tất cả các công việc liên quan đến trí tuệ nhân tạo chiến đấu được chia thành hai loại. Đầu tiên là "Kẻ hủy diệt" đã được sửa đổi và các chất tương tự khác. Thứ hai - đánh giá tương lai theo khả năng hiện đại của robot chiến đấu. Trước hết, phương tiện không người lái có cánh được trang bị hệ thống tấn công.
Có đủ các tình tiết về sự hủy diệt sai lầm hoặc cố ý của dân thường bằng máy bay không người lái. Ở Trung Đông, Mỹ máy bay không người lái phá hủy hơn một lễ cưới. Những người điều khiển robot bay đã xác định màn bắn súng không đối không ăn mừng là dấu hiệu của các cuộc đọ súng du kích. Nếu một người được đào tạo đặc biệt không thể xác định chi tiết của mục tiêu từ vài trăm mét, thì chúng ta có thể nói gì về trí tuệ nhân tạo. Hiện tại, thị giác máy không thể so sánh với mắt và não người về mức độ đầy đủ của nhận thức hình ảnh. Trừ khi anh ấy mệt mỏi, nhưng điều này cũng được giải quyết bằng cách thay đổi người điều hành kịp thời.
Những đám mây rõ ràng đang tập trung trên trí tuệ nhân tạo quân sự. Một mặt, ngày càng có nhiều bằng chứng về một bước đột phá công nghệ sắp xảy ra trong lĩnh vực này. Mặt khác, ngày càng có nhiều tiếng nói ủng hộ việc hạn chế hoặc thậm chí cấm hoạt động theo hướng này.
Một vài ví dụ.
Vào năm 2016, một bản kiến nghị đã xuất hiện trong đó các nhà tư tưởng lỗi lạc và hàng nghìn người khác yêu cầu trí tuệ nhân tạo không được cung cấp vũ khí sát thương. Trong số những người ký tên có Stephen Hawking và Elon Musk. Trong bảy năm qua, bản kiến nghị đã thu thập được hơn 20 chữ ký. Ngoài những nỗi sợ hãi thuần túy nhân văn liên quan đến khả năng hủy diệt con người không kiểm soát được, còn có những mâu thuẫn pháp lý.
Ai sẽ bị xét xử trong trường hợp sửa chữa tội ác chiến tranh do trí tuệ nhân tạo gây ra? Người điều khiển máy bay không người lái đã đốt cháy một số ngôi làng có dân thường rất dễ bị phát hiện và trừng phạt thích đáng. Trí tuệ nhân tạo là sản phẩm của công việc tập thể của các lập trình viên. Rất khó để thu hút một người ở đây. Ngoài ra, bạn có thể đánh giá công ty sản xuất, chẳng hạn như Boston Dynamics, nhưng sau đó ai sẽ tham gia sản xuất máy bay không người lái tự động. Rất ít người có mong muốn được ở trong bến tàu của Tòa án Nuremberg thứ hai.
Nguồn: koreaportal.com
Có lẽ vì lý do này mà các nhà công nghiệp và lập trình viên đang cố gắng làm chậm quá trình phát triển các kỹ năng chiến đấu của trí tuệ nhân tạo.
Ví dụ, vào năm 2018, khoảng hai trăm công ty CNTT và gần năm nghìn lập trình viên đã cam kết không làm việc trên các hệ thống tự hành chống lại. Google tuyên bố rằng trong XNUMX năm nữa họ sẽ từ bỏ hoàn toàn các hợp đồng quân sự trong lĩnh vực trí tuệ nhân tạo. Theo truyền thuyết, chủ nghĩa hòa bình như vậy không phải là ngẫu nhiên - các lập trình viên, khi biết rằng họ đang viết mã cho các hệ thống quân sự, đã đe dọa bỏ việc hàng loạt. Do đó, họ đã tìm thấy một lựa chọn thân thiện - các hợp đồng hiện có đang được hoàn thành, nhưng những hợp đồng mới chưa được ký kết. Có thể gần đến ngày từ chối làm việc trên AI chiến đấu, những "lập trình viên" khó tính sẽ bị sa thải, thay thế họ bằng những người không kém phần tài năng. Ví dụ, từ Ấn Độ, nơi từ lâu đã nổi tiếng với nguồn tài nguyên trí tuệ rẻ.
Sau đó là văn phòng Stop Killer Robots, kêu gọi các nhà lãnh đạo thế giới ký một cái gì đó giống như một công ước cấm chiến đấu với AI. Cho đến nay mà không thành công.
Tất cả những điều trên khiến các quan chức quân sự phải tìm cách giải quyết. Chưa đầy một giờ nữa trong cuộc bầu cử, Tổng thống Hoa Kỳ sẽ giành chiến thắng, không chỉ hứa hẹn ân sủng LGBT toàn cầu mà còn cấm cải tiến trí tuệ nhân tạo quân sự.
Suy nghĩ của con người cho AI
Lầu Năm Góc dường như đang trên đỉnh của một loại đột phá nào đó về AI. Hoặc anh ấy đã bị thuyết phục về nó. Không có cách nào khác để giải thích sự xuất hiện của một chỉ thị mới quy định việc nhân bản hóa các hệ thống chiến đấu tự trị. Kathleen Hicks, Thứ trưởng Quốc phòng Mỹ, nhận xét:
“Với những tiến bộ đáng kể trong công nghệ đang diễn ra xung quanh chúng ta, việc cập nhật chỉ thị của chúng tôi về quyền tự chủ của các hệ thống vũ khí sẽ giúp chúng tôi duy trì vị trí dẫn đầu thế giới không chỉ trong việc phát triển và triển khai các hệ thống mới mà còn trong lĩnh vực an ninh.”
Bạn đã nghe tất cả những người đang sợ hãi về robot sát thủ tự trị chưa? Trí tuệ nhân tạo của Mỹ từ nay về sau sẽ là thứ nhân đạo nhất. Cũng giống như chính người Mỹ.
Nguồn: robroy.ru
Vấn đề là không ai thực sự hiểu làm thế nào để thấm nhuần "sự phán xét của con người về việc sử dụng vũ lực" khét tiếng đối với robot có vũ khí. Từ ngữ chính xác từ Khái niệm được cập nhật vào cuối tháng XNUMX vừa qua:
"Các hệ thống vũ khí tự trị và bán tự trị sẽ được thiết kế để những người chỉ huy và người điều khiển có thể thực hiện một mức độ đánh giá thích hợp của con người về việc sử dụng vũ lực."
Ví dụ, ở đây, nếu khi đang dọn dẹp nhà cửa, một chiếc máy bay tấn công trước tiên ném một quả lựu đạn vào phòng, sau đó tự bay vào. Đây có phải là sự phán xét của con người? Tất nhiên, và không ai có quyền phán xét anh ta, đặc biệt nếu trước đó anh ta đã hét lên “Có ai không?”. Và nếu một robot tự trị hoạt động theo cùng một sơ đồ?
Khả năng phán đoán của con người là một khái niệm quá rộng để có thể bị giới hạn theo bất kỳ cách nào. Việc hành quyết các tù nhân chiến tranh Nga bởi các chiến binh của Lực lượng vũ trang Ukraine cũng là suy nghĩ của con người?
Việc bổ sung Chỉ thị 3000.09 của Lầu Năm Góc về các hệ thống chiến đấu tự trị đầy những điều vô vị. Ví dụ,
“Những người cho phép sử dụng, sử dụng trực tiếp hoặc vận hành các hệ thống vũ khí tự trị và bán tự trị phải làm như vậy với sự cẩn trọng và phù hợp với luật chiến tranh, các hiệp ước hiện hành, quy tắc an toàn hệ thống vũ khí và quy tắc tham gia hiện hành.”
Trước đó, rõ ràng, họ đã làm việc thiếu thận trọng và không tuân theo luật chiến tranh.
Đồng thời, không có một chút chỉ trích nào đối với sáng kiến tháng XNUMX của Lầu Năm Góc trên báo chí Mỹ và châu Âu. Dưới sự nhân bản hóa sai lầm của trí tuệ nhân tạo không gì khác hơn là một nỗ lực để che giấu những gì đang xảy ra. Giờ đây, quân đội Mỹ sẽ có một con át chủ bài vững chắc trong cuộc chiến chống lại các đối thủ trí tuệ nhân tạo trong quân đội. Hãy nhìn xem, chúng ta không có AI đơn giản, nhưng với "mức độ phán đoán đúng đắn của con người."
Xem xét rằng vẫn chưa có định nghĩa rõ ràng và được chấp nhận rộng rãi về "trí tuệ nhân tạo", tất cả việc tạo chữ cái xung quanh nó đều được nhìn nhận với sự mỉa mai. Ít nhất.
Làm thế nào để làm cho các thuật toán toán học làm việc với các mảng dữ liệu lớn đóng vai trò phán đoán của con người?
Câu hỏi chính này không được trả lời trong Chỉ thị cập nhật 3000.09.
tin tức