Không chỉ Taylor Swift, vấn nạn deepfake tăng nguy cơ các cô gái bị quấy rối trên mạng
Công nghệ sử dụng AI giả mạo khuôn mặt - deepfake đang vượt quá tầm kiểm soát. Và các cô gái chính là những nạn nhân chịu ảnh hưởng nặng nề từ công nghệ này.
Vừa qua, viễn cảnh khủng khiếp đã xảy ra với nữ ca sĩ Taylor Swift. Hàng loạt bức ảnh sử dụng công nghệ deepfakevới khuôn mặt của Taylor tràn lan khắp các nền tảng mạng xã hội. Những bức ảnh này cực kì gây ám ảnh, diễn tả cảnh bạo lực và hành vi nhạy cảm giới tính, được lan truyền rộng rãi với 27 triệu lượt xem và hơn 260 nghìn lượt thích chỉ trong 19 tiếng đồng hồ. Dù tài khoản đăng tải các hình ảnh này sau đó đã bị đình chỉ hoạt động, nhưng đây cũng chỉ là biện pháp này là tạm thời.
Hàng loạt bức ảnh "đen" sử dụng công nghệ deepfake với khuôn mặt của Taylor Swift đã tràn lan khắp các mạng xã hội.
Người nổi tiếng, chính trị gia, nhà báo và người bảo vệ nhân quyền là mục tiêu đặc biệt của vấn nạn deepfake. Đã có một báo cáo toàn diện về deepfake trong năm 2023 khẳng định rằng 99% đối tượng bị tội phạm deepfake nhắm tới là nữ giới. Tệ hơn nữa, 98% nội dung là mang tính quấy rối tình dục. Điều này đã cảnh báo thế giới rằng vấn nạn deepfake đang vượt tầm kiểm soát, gây nguy hiểm cho các cô gái và không phải ai cũng có đủ điều kiện hồ sơ pháp lý, cũng như tài chính để khiếu kiện.
Ngoài những nhóm người có sức ảnh hưởng với xã hội bị deepfake bôi nhọ, loại tội phạm công nghệ còn nhắm đến nhóm người dễ bị tổn thương, cụ thể là nữ giới và trẻ em gái.
Deepfake là một phương tiện tổng hợp được xử lý kỹ thuật số để thay thế hình ảnh của một người bằng hình ảnh của người khác một cách đầy thuyết phục. Những tiến bộ nhanh chóng trong công nghệ và khả năng kết nối của AI khiến việc tạo ra nội dung deepfake ngày càng dễ dàng và ít tốn kém. Thói quen đăng ảnh cá nhân thường xuyên lên không gian mạng cũng góp phần tạo điều kiện thuận lợi cho những kẻ phạm tội vì thủ phạm không cần phải ở gần nạn nhân.
Thế giới mạng đang đối mặt với rủi ro ngày càng lớn và thách thức đặc biệt trong việc chống lại vấn nạn quấy rối dựa trên hình ảnh deepfake.
Chứng kiến những người có địa vị cao trong xã hội cũng trở thành nạn nhân của vấn đề này cũng có tác động sâu sắc đối với nữ giới và trẻ em gái. Chúng có thể tàn phá cuộc sống riêng tư, gây ảnh hưởng cho công việc và đe dọa sức khỏe tinh thần của chúng ta.
99% đối tượng bị tội phạm deepfake nhắm tới là nữ giới.
Hy vọng những đạo luật liên quan tới việc ngăn chặn, xử lý vấn nạn deepfake sẽ sớm được ban hành, để mọi cô gái và trẻ em gái đều có thể được an toàn trên không gian mạng.
