AI GIẢ MẠO GƯƠNG MẶT NGHỆ SĨ NỔI TIẾNG TRÊN MẠNG: MỐI NGUY VÀ KHẢ NĂNG PHÁT HIỆN

Gần đây, hiện tượng kẻ xấu lợi dụng trí tuệ nhân tạo để giả mạo hình ảnh, giọng nói và gương mặt của các người nổi tiếng, trong đó có những YouTuber, diễn viên hoặc nhân vật có tầm ảnh hưởng lớn, đang ngày càng trở nên phổ biến. Những nội dung này sau đó được sử dụng cho mục đích lừa đảo, trục lợi trên các nền tảng mạng xã hội, gây hoang mang và làm rối loạn thông tin trong cộng đồng.

Tối 4/12, khoai lang thang, tên thật là Đinh Võ Hoài Phương (sinh năm 1991), đã chính thức chia sẻ một bài viết báo động về việc gương mặt và giọng nói của anh đang bị kẻ xấu lợi dụng để tạo ra các nội dung giả mạo. Khoai chia sẻ rằng trong vòng một tuần qua, hàng chục người đã bị lừa bởi các video giả mạo, trong đó có cách làm giàu qua các hình thức kinh doanh online, khi họ nhắn tin, hỏi han anh về các nội dung này.

Anh cho biết: “Bên dưới bài viết này là một video lừa đảo bằng cách dùng AI để giả giọng và giả hình ảnh của Khoai. Cả tuần nay hàng chục người bị trang này lừa, nhắn tin, email hỏi về video giả này. Dạ mong cô bác phụ Khoai báo cáo với. Khoai báo cáo đủ loại hạng mục từ lừa đảo, AI, giả mạo, xâm phạm bản quyền,… tất cả đều bị nền tảng từ chối xử lý. Thấy người khác bị lừa mà Khoai cảm thấy bất lực.” Những hành vi giả mạo này bắt nguồn từ việc một tài khoản Facebook đăng tải video có mặt của Khoai, dùng AI để lồng tiếng và chỉnh sửa khẩu hình nhằm tạo ra nội dung kêu gọi mở gian hàng kinh doanh trên Amazon, qua đó dụ người xem vào các hình thức lừa đảo và kiếm tiền bất hợp pháp.

Các hình ảnh, video giả mạo sử dụng gương mặt của Khoai nhưng kèm theo âm thanh và khẩu hình đã bị chỉnh sửa nhằm tạo cảm giác chân thực cho người xem, đặc biệt là những người chưa quen thuộc với công nghệ mới hoặc thiếu cảnh giác. Ngoài ra, nội dung các video này thường lợi dụng sự tin tưởng của cộng đồng, đưa ra các lời mời gọi hấp dẫn như không rủi ro, không cần kinh nghiệm, hỗ trợ toàn diện để dụ dỗ nạn nhân tham gia các hoạt động không rõ nguồn gốc.

Phía dưới các bài đăng của Khoai Lang Thang, cư dân mạng thể hiện sự phẫn nộ trước các thủ đoạn giả mạo trục lợi qua AI. Nhiều người đã tích cực báo cáo video giả, chia sẻ thông tin nhằm lan tỏa cảnh báo. Tuy nhiên, đến thời điểm nửa đêm cùng ngày, các nội dung giả vẫn còn tồn tại trên mạng xã hội, gây ảnh hưởng tiêu cực đến cộng đồng.

Lịch sử cảnh báo của Khoai Lang Thang cũng cho thấy đây không phải là lần đầu anh gặp phải vấn đề này. Từ cuối tháng 10, anh đã phản ánh về việc hình ảnh của mình bị gắn vào các trang bán hàng giả mạo, gây nhầm lẫn và lừa đảo cho người dùng. Anh cũng đề nghị cộng đồng giúp đỡ trong việc tố cáo các trang web giả mạo để các nền tảng có thể xử lý, nhưng vẫn còn nhiều trường hợp không được giải quyết kịp thời.

Vấn đề giả mạo qua AI không chỉ riêng cá nhân Khoai Lang Thang mà đã trở thành vấn đề nhức nhối trên mạng xã hội, đòi hỏi người dùng cần nâng cao ý thức cảnh giác. Trong bối cảnh công nghệ ngày càng tinh vi, việc trang bị kiến thức để nhận diện nội dung do AI tạo ra càng trở nên cấp thiết. Đồng thời, cộng đồng cũng kêu gọi các nền tảng mạng xã hội siết chặt kiểm duyệt, đặc biệt đối với các nội dung deepfake nhằm bảo vệ quyền lợi và an toàn của người dùng.