EU đạt thỏa thuận mang tính bước ngoặt lịch sử về quản lý sử dụng AI

Dự thảo về luật quản lý sử dụng AI sẽ được thảo luận chi tiết trong những ngày tới. Ảnh minh họa: Truyền hình Quốc hội

Với thỏa thuận chính trị này, Liên minh châu Âu (EU) chính thức trở thành cường quốc đầu tiên trên thế giới ban hành luật quản lý AI. Được biết, thỏa thuận giữa các nước EU và các thành viên Nghị viện châu Âu được đưa ra sau gần 15 giờ đàm phán sau cuộc tranh luận kéo dài 24h diễn ra vào ngày 7/10 vừa qua.

Hãng tin The Business Times cập nhật rằng, hai bên dự kiến sẽ thảo luận chi tiết hơn trong những ngày tới. Điều này có thể thay đổi hình thức của điều luật lần cuối cùng và luật mới dự kiến sẽ có hiệu lực vào đầu năm tới, cũng như sẽ được đưa vào áp dụng vào năm 2026.

Cho đến lúc đó, các công ty được khuyến khích tự nguyện đăng ký Hiệp ước AI để thực hiện các nghĩa vụ chính của những quy tắc được đề ra.

Về những điểm chính đã được thống nhất:

Hệ thống có rủi ro cao

Hệ thống AI có rủi ro cao, đề cập đến những hệ thống được coi là có khả năng gây tổn hại đáng kể đến sức khỏe, an toàn, các quyền cơ bản, cũng như môi trường, dân chủ, bầu cử và pháp quyền sẽ phải tuân thủ một loạt yêu cầu, đơn cử như trải qua đợt kiểm tra đánh giá tác động của các quyền cơ bản và nghĩa vụ khi tiếp cận thị trường EU.

Các hệ thống AI được coi là gây ra rủi ro hạn chế cũng sẽ phải tuân theo những nghĩa vụ minh bạch, dù rất nhẹ.

Sử dụng AI trong thi hành pháp luật

Việc cơ quan thực thi pháp luật sử dụng hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực trong không gian công cộng sẽ chỉ được phép giúp xác định nạn nhân của các vụ bắt cóc, buôn người, lạm dụng tình dục và ngăn chặn mối đe dọa khủng bố cụ thể.

Thêm vào đó, AI cũng sẽ được phép sử dụng để truy tìm những người bị nghi ngờ phạm tội khủng bố, buôn người, lạm dụng tình dục, bắt cóc…

Hệ thống AI mục đích chung (GPAI) và mô hình nền tảng

Theo đó, GPAI và các mô hình nền tảng sẽ phải tuân theo các yêu cầu về tính minh bạch, như phải xây dựng tài liệu kỹ thuật, tuân thủ luật bản quyền của EU và phổ biến các bản tóm tắt chi tiết về nội dung dùng để đào tạo thuật toán.

Các mô hình nền tảng được phân loại là gây ra rủi ro hệ thống và GPAI có tác động cao sẽ phải tiến hành đánh giá mô hình, giảm thiểu rủi ro. Bên cạnh đó, những mô hình này cũng phải trải qua thử nghiệm đối nghịch, báo cáo với Ủy ban châu Âu (EC) về các sự cố nghiêm trọng, đảm bảo an ninh mạng và báo cáo về hiệu quả sử dụng năng lượng của chúng.

Cho đến khi các tiêu chuẩn hài hòa của EU được công bố, GPAI có rủi ro hệ thống có thể dựa vào các quy tắc thực hành để tuân thủ quy định.

AI bị cấm

Các quy định cấm sẽ bao gồm:

Hệ thống phân loại sinh trắc học sử dụng các đặc điểm nhạy cảm như chính trị, tôn giáo, niềm tin triết học, khuynh hướng tình dục và chủng tộc.

Cấm các hành động quét không có mục tiêu các hình ảnh khuôn mặt từ Internet hoặc đoạn phim CCTV để tạo cơ sở dữ liệu nhận dạng khuôn mặt.

Cấm các hệ thống AI thao túng hành vi của con người để phá vỡ ý chí tự do của họ, cũng như cấm sử dụng trí tuệ nhân tạo (AI) để khai thác điểm yếu của con người do tuổi tác, khuyết tật, hoàn cảnh kinh tế hoặc xã hội của họ.

Xử phạt vi phạm

Tùy thuộc vào hành vi vi phạm và quy mô của công ty liên quan, mức phạt sẽ bắt đầu từ 8 triệu USD hoặc 1,5% doanh thu hàng năm đến 7% doanh thu.

“Đây là thỏa thuận mang tính lịch sử! EU đã trở thành lục địa đầu tiên đặt ra các quy tắc rõ ràng về việc sử dụng AI. Đạo luật AI không chỉ là một cuốn sách về quy tắc. Nó là bệ phóng cho các nhà nghiên cứu và khởi nghiệp ở EU dẫn đầu cuộc đua AI toàn cầu”, Ủy viên phụ trách thị trường nội khối của EU Thierry Breton mới đây nhận xét.

Trong một diễn biến có liên quan, Chủ tịch Ủy ban châu Âu (EC) Ursula von der Leyen cho biết, các quy định về AI sẽ cung cấp một khuôn khổ pháp lý duy nhất để phát triển công nghệ đáng tin cậy mà không ảnh hưởng đến sự an toàn và các quyền cơ bản của người dân và doanh nghiệp.

Một trong những nhà đàm phán hàng đầu của Nghị viện châu Âu Dragos Tudorache cho biết, các quy tắc AI nhắm vào các mô hình AI quy mô lớn, qua đó đảm bảo chúng không gây ra rủi ro hệ thống cho Liên minh châu Âu (EU).

Hiện nay, chính phủ trên khắp thế giới đang tìm cách cân bằng lợi thế của công nghệ và luật mới của EU có thể trở thành kế hoạch chi tiết cho các chính phủ khác áp dụng trong tương lai.

Đan Lê (Lược dịch từ The Business Times & CNA)