Hơn 100 chuyên gia về người máy đang khẩn thiết yêu cầu Liên hiệp quốc hành động để ngăn chặn sự phát triển của "người máy sát thủ".
Trong một lá thư gửi tới LHQ, các nhà nghiên cứu trí tuệ nhân tạo, kể cả tỉ phú Elon Musk, cảnh báo về "cuộc cách mạng vũ khí thứ ba". Theo đó, công nghệ vũ khí tự động là một "chiếc hộp của Pandora", và thời gian đang rất cấp bách.
Chiếc hộp của Pandora
Theo thần thoại Hy lạp, chiếc hộp này nguyên gốc có hình dáng như một chiếc bình. Theo thần thoại, khi Prometheus đánh cắp lửa từ thiên đường, thần Zeus đã trả thù bằng cách đưa chiếc hộp Pandora cho người em của Prometheus là Epimetheus.
Một khi chiếc hộp bị mở ra, thiên tai bệnh dịch, chết chóc và những điều kinh hoàng khác sẽ được thả tự do ra . Em gái của Prometheus vội vàng đóng lại nhưng hầu như toàn bộ điều xấu đã lọt ra ngoài, chỉ còn lại "Hy vọng" với ý nghĩa là "sự kỳ vọng dối trá".
Tập thể 116 chuyên gia đang đề nghị cấm sử dụng AI trong quản lý vũ khí. Lá thứ có viết: "Một khi được phát triển, chúng sẽ cho phép các cuộc xung đột vũ trang mở rộng hơn bao giờ hết, và với tốc độ mà con người không thể lường được.
Vũ khí có thể được quân khủng bố sử dụng tấn công người dân vô tội, và những vũ khí bị chiếm quyền kiểm soát sẽ hoạt động theo những cách không mong muốn".
Theo những nhà khoa học hàng đầu thì chúng ta không còn nhiều thời gian để hành động. Một khi "chiếc hộp của Pandora" được mở, rất khó để đóng nó lại. Họ mô tả đây như là "công nghệ phi đạo đức" và cần phải cấm theo danh sách vũ khí của LHQ. Cùng với ông chủ của Tesla, những người phản đối còn có đồng sáng lập của DeepMind, ông Mustafa Suleyman.
Tuần sau tại Geneva, 123 nước thành viên LHQ sẽ thảo luận về những thách thức của vũ khí tự động, hay "người máy sát thủ"; trong đó 22 nước đang vận động lệnh cấm hoàn toàn. Tuy nhiên, cuộc họp bị hoãn lại tới tháng 11. Một lệnh cấm công nghệ " sát thủ" đã từng được thảo luận bởi một hội đồng tại LHQ.
Trong lá thư tẩy chay có viết: "Tại thời điểm LHQ thảo luận cách thức kiểm soát mối nguy hại với an ninh toàn cầu của vũ khí tự động, thật đáng tiếc rằng việt khoa học danh tiếng như Kaist lại tìm cách tăng tốc chạy đua vũ trang để phát triển những vũ khí như vậy.
Hàn quốc hiện đã triển khai người máy tuần tra dọc biên giới với Triều tiên. Người máy Samsung SGR-A1 mang súng máy có thể chuyển sang chế độ tự động nhưng hiện nay vẫn được kiểm soát bởi con người qua đường truyền máy quay phim.
Năm 2015, hơn 1000 chuyên gia công nghệ, nhà khoa học và nghiên cứu viên đã viết một bức thư cảnh báo về sự nguy hiểm của công nghệ vũ khí tự động.
Một trong những người đã ký vào bức thư trên là nhà khoa học lừng danh Stephen Hawking; ngoài ra còn có đồng sáng lập của Apple, ông Steve Wozniak và ông trùm công nghệ Elon Musk.
Vậy "người máy sát thủ" là gì?
Một người máy sát thủ là một hệ thống vũ khí hoàn toàn tự động có khả năng lựa chọn và tấn công mục tiêu mà không cần sự can thiệp của con người. Điều này chưa tồn tại nhưng sự tiến bộ trong công nghệ sẽ mang chúng đến sớm hơn.
Hình minh họa.
Những người ủng hộ "người máy sát thủ" tin rằng luật chiến tranh hiện nay là đủ để chi phối các vấn đề sẽ phát sinh. Họ cho rằng một sự điều chỉnh tạm thời là cần thiết chứ không phải lệnh cấm hoàn toàn.
Tuy nhiên, những người phản đối tin rằng "người máy sát thủ" là mối hiểm họa với nhân loại và bất kì chức năng tự động tiêu diệt nào cũng cần phải bị cấm.
Các nhà khoa học hàng đầu về AI đã tẩy chay trường Đại học của Hàn quốc Kaist vì tham gia sản xuất vũ khí với công ty Hanwha. Hơn 50 nhà khoa học từ 30 quốc gia đã ký vào một lá thư bày tỏ sự lo ngại về kế hoạch phát triển trí tuệ nhân tạo cho vũ khí.
Trong khi đó trường đại học này cho rằng họ không phát triển "vũ khí hủy diệt tự động." Cuộc tẩy chay diễn ra trước khi LHQ nhóm họp để bàn về vấn đề "người máy sát thủ".
Theo ông Shin Sung-chul, chủ tịch Viện và khoa học Hàn quốc (Kaist), cho rằng Kaist sẽ không tiến hành các hoạt động nghiên cứu chống lại loài người bao gồm vũ khí tự động mà không có sự kiểm soát của con người.
Ông nói thêm rằng Kaist biết rõ sự lo ngại về mặt đạo đức trong những ứng dụng của công nghệ trong đó có trí tuệ nhân tạo. Dự án của trường chỉ tập trung vào phát triển thuật toán cho "các hệ thống hậu cần hiệu quả, hệ thống huấn luyện không quân và hoa tiêu không người lái"
GS Noel Sharkey, trưởng nhóm Vận động chống người máy sát thủ, là người đầu tiên ký vào lá thư đã hoan nghênh hồi đáp của trường đại học.
Tuy nhiên cần có thời gian để thảo luận mối liên hệ giữa Kaist và Hanwa trước khi gỡ bỏ cuộc tẩy chay. Trong thời gian đó, giới khoa học sẽ từ chối hợp tác với Kaist trong mọi lĩnh vực.
Tổng hợp
Theo Helino
