Tin tứcCác nhà nghiên cứu bảo mật đã phát triển một loại sâu AI tự sao chép, có thể xâm nhập vào email của mọi người để phát tán phần mềm độc hại và đánh cắp dữ liệu.
Được đặt tên là Morris II, theo tên sâu máy tính đầu tiên từ năm 1988, sâu máy tính này được tạo ra bởi một nhóm quốc tế đến từ Mỹ và Israel trong nỗ lực nêu bật những rủi ro liên quan đến trí tuệ nhân tạo tổng hợp - GenAI.
Sâu này được thiết kế để nhắm mục tiêu vào các ứng dụng hỗ trợ AI sử dụng các công cụ phổ biến như ChatGPT của OpenAI và Gemini của Google. Nó đã được chứng minh là chống lại các trợ lý email do GenAI cung cấp để đánh cắp dữ liệu cá nhân và khởi động các chiến dịch gửi thư rác.
Các nhà nghiên cứu cảnh báo rằng sâu này đại diện cho một loại “phần mềm độc hại mới không cần nhấp chuột” vì nạn nhân không cần phải nhấp vào bất cứ thứ gì để kích hoạt hoạt động độc hại hoặc thậm chí truyền bá nó. Thay vào đó, nó được thực hiện bằng hành động tự động của công cụ AI tổng hợp.
Các nhà nghiên cứu viết: “Nghiên cứu chứng minh rằng những kẻ tấn công có thể chèn những lời nhắc như vậy vào đầu vào mà khi được mô hình GenAI xử lý, sẽ nhắc mô hình sao chép đầu vào thành đầu ra và tham gia vào các hoạt động độc hại.”
“Ngoài ra, những đầu vào này buộc tác nhân phải truyền bá chúng cho các tác nhân mới bằng cách khai thác khả năng kết nối trong hệ sinh thái GenAI.”
Nghiên cứu này được trình bày chi tiết trong một nghiên cứu có tiêu đề 'ComPromptMized: Giải phóng các sâu không cần nhấp chuột nhắm vào các ứng dụng do GenAI cung cấp'.
Kể từ khi ra mắt ChatGPT vào năm 2022, các nhà nghiên cứu bảo mật đã ghi nhận khả năng tin tặc và tội phạm mạng sử dụng một số yếu tố của AI tổng hợp để thực hiện các cuộc tấn công.
Khả năng bắt chước văn bản do con người tạo ra một cách thực tế của công nghệ này có nghĩa là người ta có thể sử dụng nó để tạo ra các email và văn bản lừa đảo thuyết phục.
Công ty an ninh mạng CrowdStrike đã cảnh báo trong Báo cáo về mối đe dọa toàn cầu hàng năm, được xuất bản vào tháng trước, rằng các nhà nghiên cứu của họ đã quan sát thấy các tác nhân và nhà hoạt động quốc gia đang thử nghiệm các công cụ như ChatGPT.
“GenAI có thể phổ thông hóa các cuộc tấn công và hạ thấp rào cản cho các hoạt động phức tạp hơn”, đại diện công ty viết “GenAI có thể sẽ được sử dụng cho các hoạt động mạng vào năm 2024 khi công nghệ này tiếp tục trở nên phổ biến.”
