Nguy cơ thông tin sai lệch khi dùng AI trong chăm sóc sức khỏe

WHO cảnh báo cần thận trọng với ứng dụng trí tuệ nhân tạo. Nguồn: Reuters

* Cha đẻ" của ChatGPT: Trí tuệ nhân tạo cần được chính phủ kiểm soát

Ngày 16/5, Tổ chức Y tế Thế giới (WHO) cảnh báo cần thận trọng với ứng dụng trí tuệ nhân tạo (AI) trong chăm sóc sức khỏe cộng đồng, do các dữ liệu được AI sử dụng để đưa ra kết quả có thể bị sai lệch hoặc thiên lệch.

WHO cho biết tổ chức này đặt nhiều kỳ vọng vào tiềm năng của AI trong phát triển chăm sóc sức khỏe, song cũng lo ngại về cách thức AI được sử dụng để tiếp cận thông tin y tế, khi đây được xem là một công cụ hỗ trợ để ra kết quả và cải thiện chẩn đoán.

Trong một thông báo, WHO cho biết dữ liệu được sử dụng trong AI có thể bị thiên lệch, tạo ra thông tin sai lệch hoặc không chính xác và các mô hình này thậm chí có thể bị lợi dụng để tạo ra thông tin sai lệch.

Tổ chức này nhấn mạnh việc bắt buộc đánh giá rủi ro liên quan sử dụng những Mô hình ngôn ngữ lớn (LLM) tương tự ChatGPT, để bảo vệ và thúc đẩy phúc lợi con người, cũng như sức khỏe cộng đồng.

Cảnh báo được đưa ra trong bối cảnh các ứng dụng AI đang nhanh chóng trở nên phổ biến, khi đây được xem như một công cụ giúp nâng cao chất lượng kinh doanh và thay đổi cách thức xã hội vận hành.

Trước đó, ngày 10/5, giới nghiên cứu cũng đã hối thúc các chuyên gia y tế đưa ra cảnh báo toàn cầu về những rủi ro mà công nghệ trí tuệ nhân tạo (AI) có thể gây ra cho sức khỏe con người.

Công nghệ AI đã trở nên phổ biến hơn vào năm ngoái, sau màn ra mắt “bùng nổ” của ChatGPT - một chatbot có khả năng sáng tạo các văn bản mạch lạc từ những từ khóa hay gợi ý ngắn.

* Ngày 16/5, Sam Altman, Giám đốc điều hành (CEO) công ty OpenAI, người được xem là "cha đẻ" của ứng dụng ChatGPT, cho rằng cần có các quy định đối với AI.

Phát biểu trong phiên điều trần trước Tiểu ban Tư pháp Thượng viện Mỹ, CEO Altman nhấn mạnh OpenAI được thành lập dựa trên niềm tin rằng AI có khả năng cải thiện gần như mọi khía cạnh trong đời sống con người, song cũng có thể gây những rủi ro nghiêm trọng.

Ông dự đoán trong thời gian tới, AI do OpenAI phát triển sẽ giải quyết một số thách thức lớn nhất trên thế giới như biến đổi khí hậu và điều trị bệnh ung thư.

Tuy nhiên, trước những lo ngại về thông tin sai lệch, đảm bảo việc làm và các rủi ro tiềm tàng khác, ông cho rằng sự can thiệp của chính phủ thông qua các quy định có ý nghĩa quan trọng để giảm thiểu các nguy cơ tiềm tàng của những công nghệ ngày càng phát triển.

"Cha đẻ" của ChatGPT khuyến nghị Chính phủ Mỹ có thể cân nhắc kết hợp các yêu cầu cấp phép và thử nghiệm trước khi phê duyệt các mô hình AI nhiều tính năng, đồng thời xem xét thẩm quyền thu hồi giấy phép trong trường hợp vi phạm quy định.

Ngoài ra, ông Altman cho rằng nên dán nhãn sản phẩm và tăng cường phối hợp toàn cầu trong việc xây dựng các quy định về công nghệ cũng như thành lập một cơ quan chuyên trách của Mỹ giải quyết các vấn đề về AI.

Các công cụ AI đã tạo nên "cơn sốt công nghệ" sau khi ChatGPT ra mắt vào tháng 11/2022. Ứng dụng ChatGPT có thể đưa ra câu trả lời cho những câu hỏi hóc búa, viết mã code, sáng tác thơ hoặc viết bài luận, thậm chí có thể giúp học sinh - sinh viên vượt qua các kỳ thi khó. Tuy nhiên, giới chuyên gia lo ngại về cách ChatGPT và các đối thủ thu thập, xử lý dữ liệu.

Tại buổi điều trần, các nhà lập pháp và đại diện các hãng công nghệ bày tỏ quan ngại sâu sắc về các bước phát triển nhanh chóng của AI, chia sẻ quan điểm cần có chính sách quản lý AI rõ ràng và hiệu quả hơn.

Thượng nghị sĩ Đảng Dân chủ Blumenthal cho rằng các công nghệ AI giờ đây không chỉ đơn thuần là những thí nghiệm nghiên cứu hay những điều trong khoa học viễn tưởng, mà AI đã thực sự hiện hữu trong cuộc sống.

Bà Christina Montgomery, Giám đốc về Quyền riêng tư, Công ty IBM (Mỹ), nhận định kỷ nguyên AI sẽ phát triển rất nhanh chóng và có thể phá vỡ mọi thứ. Điều cần thiết lúc này là phải có các chính sách rõ ràng và biện pháp bảo vệ phù hợp.

Trong khi đó, Giáo sư Gary Marcus, Đại học New York, cho rằng xã hội đang phải đối mặt với sự vô trách nhiệm của các công ty, triển khai tràn lan, thiếu quy định đầy đủ và không đáng tin cậy trong phát triển và ứng dụng AI.

T.LÊ (tổng hợp từ TTXVN/Vietnam+)