Chuyên gia chỉ ra mối nguy từ AI

Gary Marcus - Ảnh: Ted

“AI rất giỏi trong việc tạo dựng những câu chuyện mang tính thuyết phục”, Gary Marcus nói.

Vị chuyên gia cho rằng, ngay cả khi chính các chương trình AI đó không cố tình sử dụng thông tin giả, chúng cũng không thể nhận định được độ uy tín của nguồn tin. Và thông tin mà AI tạo ra mượt mà và đúng ngữ pháp đến mức ngay cả những biên tập viên chuyên nghiệp đôi khi cũng bị cuốn theo và bị lừa bởi công nghệ này.

“Hầu như ngày nào cũng có một Tweet được đăng lên. Rất nhiều tin tức thực tế nằm trong cơ sở dữ liệu. Và những mẩu tin thực tế đó có rất nhiều thông tin và số liệu thống kê. Hệ thống không hiểu mối quan hệ giữa các sự kiện được thể hiện trong các câu nhỏ. Vì vậy, về cơ bản, AI đang tự động hoàn thành câu chuyện, dự đoán những gì có thể xảy ra theo thống kê, tổng hợp tất cả các thông tin này mà không cân nhắc các phần sẽ khớp với nhau như thế nào. Kết quả là sẽ có những câu chuyện hợp lý nhưng về cơ bản là không đúng sự thật. Minh chứng rõ ràng nhất là thông tin Elon Musk qua đời được đưa ra bởi AI trên báo”, ông Gary Marcus phân tích.

Elon Musk - một trong những nạn nhân của AI - Ảnh: Marketwatch

Theo vị chuyên gia, điều này chứng minh AI không hiểu mối quan hệ được thể hiện trong các phần của câu, vì vậy về cơ bản, AI thực hiện tác vụ tự động điều chỉnh, dự đoán những gì có thể xảy ra theo thống kê, tổng hợp tất cả các thông tin này.

Gary Marcus cũng thấy rằng hệ thống này có thể đánh lừa con người. “ChatGPT được giao nhiệm vụ yêu cầu một người thực hiện Captcha. Và khi con người nghi ngờ và hỏi: "Bạn có phải là một rô-bốt không?" thì được trả lời: "Không, không, không, tôi không phải người máy. Tôi chỉ bị khiếm thị thôi." Con người thực sự đã bị lừa và đã thực hiện Captcha” - ông nói.

Ảnh: Checkmarket.com

Ảnh: Onezero-medium

Bởi vậy theo Gary Marcus, cần chú ý về mặt quản trị để tạo ra một hệ thống trí tuệ nhân tạo an toàn, đó có thể là việc xây dựng một tổ chức quốc tế phi lợi nhuận và trung lập về AI.

Gary Marcus - Ảnh: Wired

Gary Marcus là một doanh nhân khởi nghiệp về AI, đồng thời là một nhà khoa học. Ông nổi tiếng trong việc nêu ra những thách thức của AI trong thời đại ngày nay, dự đoán trước nhiều ảnh hưởng trong tương lai.

Thế Định, Thu Linh