Tin tứcTrong một tạp chí Time gần đây , Yudkowsky, một nhà lý luận về quyết định tại Viện Nghiên cứu Trí tuệ Máy móc, người đã nghiên cứu về AI trong hơn 20 năm, tuyên bố rằng bức thư có chữ ký CEO Twitter đang nhấn mạnh “mức độ nghiêm trọng của tình hình” vì AI có thể trở thành thông minh hơn và bật con người.
Vào tuần trước, bức thư ngỏ được ký bởi hơn 1.600 người, bao gồm cả Musk và người đồng sáng lập Apple Steve Wozniak đã yêu cầu chính phủ tạm dừng phát triển bất kỳ hệ thống AI nào mạnh hơn phiên bản GPT-4 hiện tại . Bức thư lập luận rằng “chỉ nên phát triển các hệ thống AI mạnh mẽ khi chúng tôi tin tưởng rằng tác động của chúng sẽ tích cực và chúng ta có thể kiểm soát được những rủi ro gây hại cho xã hội”.
Tuy nhiên, trong bức thư này không có chữ ký của chuyên gia Yudkowsky vì ông cho rằng yêu cầu đó là chưa đủ. Ông giải thích: “Vấn đề mấu chốt không phải là trí thông minh 'cạnh tranh với con người' (như bức thư ngỏ đã nói); đó là những gì xảy ra sau khi AI đạt đến trí tuệ thông minh hơn con người”.
Yudkowsky tuyên bố: “Nhiều nhà nghiên cứu chìm đắm trong những vấn đề này, bao gồm cả tôi, kỳ vọng rằng kết quả rất có thể xảy ra của việc xây dựng một AI thông minh siêu phàm, trong bất kỳ điều gì từ xa như hoàn cảnh hiện tại, là mọi người trên Trái đất sẽ chết theo đúng nghĩa đen.
Không phải là 'có thể là một cơ hội xa xôi nào đó', mà là 'đó là điều hiển nhiên sẽ xảy ra”. Yudkowsky lo sợ rằng AI có thể không vâng lời những người tạo ra nó và có thể không quan tâm đến mạng sống của con người.
Ông nói thêm: “Hãy hình dung toàn bộ nền văn minh ngoài hành tinh, suy nghĩ với tốc độ gấp hàng triệu lần con người, ban đầu chỉ giới hạn trong máy tính – trong một thế giới của những sinh vật vốn dĩ rất ngu ngốc và chậm chạp nhưng rồi sẽ phát triển đến một mức độ có thể khó lường được”.
Chuyên gia nhấn mạnh 6 tháng là không đủ thời gian để đưa ra một kế hoạch làm thế nào để đối phó với công nghệ AI đang phát triển ngày càng nhanh.
Ông tiếp tục: “Phải mất hơn 60 năm kể từ khi khái niệm trí tuệ nhân tạo lần đầu tiên được đề xuất và nghiên cứu, cho đến khi chúng ta đạt được những khả năng như ngày nay. Việc giải quyết vấn đề an toàn cho trí thông minh siêu phàm không phải là an toàn hoàn hảo. An toàn đúng nghĩa ở đây 'không giết tất cả mọi người theo đúng nghĩa đen”.
Đề xuất của Yudkowsky về vấn đề này là cần có sự hợp tác quốc tế để ngăn chặn sự phát triển của các hệ thống AI mạnh mẽ. Ông tuyên bố làm như vậy sẽ quan trọng hơn việc “ngăn chặn một cuộc trao đổi hạt nhân hoàn toàn”.
“Hãy tắt tất cả các cụm GPU lớn (các trang trại máy tính lớn nơi các AI mạnh nhất được tinh chỉnh). Tắt tất cả các hoạt động đào tạo lớn. Đặt mức trần cho mức năng lượng tính toán mà bất kỳ ai được phép sử dụng trong việc đào tạo hệ thống AI và hạ thấp mức này trong những năm tới để bù đắp cho các thuật toán đào tạo hiệu quả hơn. Không có ngoại lệ cho chính phủ và quân đội”, chuyên gia khẳng định.
