Với sự phát triển của AI, các hình thức lừa đảo qua điện thoại, sao chép giọng nói, khuôn mặt đã phát triển vượt xa các chiến thuật mạo danh đơn giản.
Tình trạng lạm dụng các công cụ trí tuệ nhân tạo (AI) để dàn dựng những nội dung sai lệch đang ngày càng trở nên đáng báo động.
Trang The Baltimore Banner đưa tin cảnh sát hạt Baltimore của bang Maryland (Mỹ) vừa bắt giữ cựu giám đốc thể thao trường trung học Pikesville Dazhon Darien với cáo buộc dùng trí tuệ nhân tạo (AI) mạo danh hiệu trưởng Eric Eiswert đưa ra phát ngôn phân biệt chủng tộc và chống Do Thái.
Với sự phát triển của công nghệ, các thủ đoạn lừa đảo, bắt cóc tống tiền ảo đang ngày càng tinh vi hơn và một số vụ gần đây có một điểm chung: sử dụng công nghệ nhân bản giọng nói. Sự phát triển của các chương trình trí tuệ nhân tạo (AI) chi phí thấp, dễ tiếp cận đã tạo cơ hội cho những kẻ lừa đảo sao chép giọng nói và tạo ra các đoạn hội thoại nghe giống như giọng của nạn nhân.
Những thủ đoạn lừa đảo sử dụng công nghệ AI này đang gây chấn động nước Mỹ.
Giọng nói trong điện thoại có vẻ thật đến đáng sợ. Một bà mẹ đã nghe thấy tiếng con gái khóc nức nở trước khi một người đàn ông giật lấy điện thoại rồi đòi tiền chuộc.
Vụ việc Tổng thống Nga Vladimir Putin bị giả mạo hình ảnh, giọng nói bằng công nghệ deepfake mới đây đã dấy lên hồi chuông cảnh báo về loại 'vũ khí' mới trong xung đột ở Ukraine.
Điện Kremlin hôm 5/6 cho biết, một thông báo khẩn cấp từ Tổng thống Vladimir Putin được phát sóng trên nhiều đài phát thanh và truyền hình ở các khu vực của Nga giáp với Ukraine là một sản phẩm giả mạo do tin tặc tạo ra.
Trí tuệ nhân tạo đang tạo ra mối quan ngại không nhỏ về việc những thông tin sai sự thật có thể xuất hiện trong cuộc đua tranh cử tổng thống Mỹ 2024.
Cuộc đua ghế Tổng thống Mỹ năm 2024 dự kiến sẽ là cuộc bầu cử đầu tiên chứng kiến việc sử dụng rộng rãi các công cụ tiên tiến được hỗ trợ bởi trí tuệ nhân tạo (AI) - đang ngày càng làm mờ ranh giới giữa thực tế và hư cấu.
Các vụ lừa đảo bằng trí tuệ nhân tạo (AI) đã xảy ra tại một số địa phương ở Trung Quốc, trong đó vụ nghiêm trọng nhất có số tiền bị lừa lên tới hơn 600.000 USD.
Bất cứ ai biết chỉnh sửa ảnh đều có thể tạo nên tấm hình này. Tuy nhiên, nguyên nhân nó lan tỏa là vì được một loạt tài khoản có tick xanh chia sẻ.
Bức ảnh về vụ nổ ở Lầu Năm Góc (Mỹ) được lan truyền trên Twitter và Facebook khiến nhiều người xôn xao thực chất chỉ là một sản phẩm được tạo ra bởi trí tuệ nhân tạo (AI).
Những tiến bộ của trí thông minh nhân tạo AI tạo sinh ((Generative AI) - một 'nhánh' của AI - cũng đồng nghĩa với việc ngày càng có nhiều nội dung giả mạo, tin tức giả, ảnh giả, video giả tràn lan trên mạng, gây ảnh hưởng đến việc tiếp nhận thông tin. Chuyên gia Hany Farid, thuộc Đại học California, Mỹ, một nhà khoa học về máy tính, chuyên về xử lý hình ảnh đã đưa ra cách thức để đối phó với thông tin giả mạo do AI tạo ra.
Theo một báo cáo dựa trên phân tích 105 vụ buôn bán tình dục trẻ em tại Mỹ năm 2020, Facebook và Instagram là 2 nền tảng được những kẻ buôn bán tình dục trẻ em sử dụng nhiều nhất.
Phóng viên Joanna Stern của WSJ đã thử dùng AI để tạo ra một phiên bản mô phỏng chính mình. Kết quả, bản sao này đánh lừa được cả gia đình cô và hệ thống ngân hàng.
Jennifer DeStefano chết lặng khi nghe giọng nói cầu cứu giống hệt con gái lớn Brianna, 15 tuổi. Sau khi điều tra, tất cả chỉ là một trò lừa đảo với sự giúp sức của AI.
Các công cụ AI tạo âm thanh, hình ảnh, video bóp méo sự thực về các ứng cử viên và có thể gây tình trạng thật giả lẫn lộn trước cuộc bầu cử Mỹ năm 2024.
Khi Tòa án Tối cao Mỹ quyết định trong những tháng tới liệu có nên làm suy yếu lá chắn mạnh mẽ bảo vệ các công ty internet hay không, phán quyết này cũng có thể tác động đến công nghệ đang phát triển nhanh chóng như chatbot trí tuệ nhân tạo (AI).
Khuôn mặt của hàng tỷ người thật, đăng tải trên mạng xã hội, vô tình trở thành nguyên liệu cho AI tạo ảnh khiêu dâm.
Các vụ lừa đảo công nghệ tăng mạnh thời gian qua, kẻ gian đang lợi dụng AI bắt chước giọng nói cho mục đích lừa đảo. Công nghệ này ngày càng rẻ, dễ tiếp cận khiến số nạn nhân ngày càng tăng, chủ yếu nhắm đến người lớn tuổi.
Những kẻ lừa đảo đang sử dụng trí thông minh nhân tạo để tạo ra giọng nói giống nạn nhân và thuyết phục người thân của họ chuyển tiền.
Những vụ lừa đảo tinh vi dưới sự trợ giúp của trí tuệ nhân tạo (AI) đang ngày càng nở rộ.
Ai cũng tưởng cuộc điện thoại đó là người thân đang kêu cứu nhưng thực ra những kẻ lừa đảo đã sử dụng AI để giả giọng.
Những kẻ lừa đảo đang sử dụng trí thông minh nhân tạo để tạo ra âm thanh kêu cứu giống với các thành viên trong gia đình bạn, khiến nhiều người đang mất hàng ngàn USD.
Tòa án Tối cao Mỹ bắt đầu phiên tranh luận với tâm điểm là Điều 230, thứ từ lâu đã là 'tấm khiên' vững chắc cho các nền tảng mạng xã hội.
Vụ kiện Google, Twitter và Facebook trong thời gian tới được nhiều chuyên gia nhận định có thể thay đổi hoàn toàn các quy tắc của Internet.
Giáo sư Hany Farid của Đại học California cho rằng Apple nên quét dữ liệu trên iPhone của người dùng để loại bỏ các hình ảnh lạm dụng trẻ em.
Báo Newsweek cho biết, nhiều người dùng mạng xã hội đặt nghi vấn về khung cảnh trong đoạn video mới của Tổng thống Trump.
Deepfake (công nghệ sản xuất, chỉnh sửa ảnh hoặc video dựa trên trí tuệ nhân tạo với các nội dung không đúng thực tế) làm dấy lên mối lo ngại về vấn nạn thao túng các video để truyền bá thông tin sai lệch. Facebook sẽ trao khoản tiền lên đến 10 triệu đô la cho bất kỳ cá nhân hoặc nhóm nào có thể xây dựng công cụ phát hiện công nghệ này.
Adobe tiết lộ họ đang hợp tác nghiên cứu với các nhà khoa học để tạo ra công cụ phát hiện ảnh đã chỉnh sửa.