AI TÁC ĐỘNG MẠNH MẼ ĐẾN HỆ THỐNG CHỐT ĐÁNH GIAO DỊCH TRỰC TUYẾN

Theo Wired, các nền tảng mua sắm trực tuyến lâu nay dựa vào việc xác minh yêu cầu hoàn tiền dựa trên hình ảnh khách hàng cung cấp. Tuy nhiên, sự trỗi dậy của trí tuệ nhân tạo tạo sinh đang khiến hệ thống này bị xáo trộn lớn, khi các thủ đoạn gian lận ngày càng tinh vi và khó nhận biết hơn bao giờ hết.

AI GIÚP TẠO CÁC CHỨNG CỨ GIẢ MẠO ĐỂ LỪA ĐẢO

Tại Trung Quốc, có nhiều báo cáo về các chủ shop trên các nền tảng như Tiểu Hồng Thư và Douyin đối mặt với các vụ lừa đảo lấy tiền bằng ảnh và video giả mạo tinh vi. Thủ đoạn phổ biến là kẻ gian dùng AI tạo ra hình ảnh sản phẩm bị hư hỏng nặng, nhằm đòi hoàn tiền từ người bán. Các trường hợp này vô cùng đa dạng và đôi khi phi lý, như một người bán ga trải giường nhận được ảnh mặt hàng bị xé nát, trong đó nhãn mác lại chứa ký tự Hán do AI tạo ra bất hợp lý. Hay một vụ khác, khách hàng gửi ảnh chiếc cốc gốm bị nứt trông giống như giấy rách, khiến người bán không khỏi hoài nghi.

Điển hình là vụ việc một người bán cua sống trên Douyin bị lừa khi khách gửi video ghi cảnh cua chết, thậm chí chọc vào chúng. Nhưng qua kiểm tra kỹ lưỡng, người bán phát hiện ra video và hình ảnh đã bị chỉnh sửa, nội dung không đồng nhất, thậm chí có cua mọc tới 9 chân. Công an sau đó xác định video là giả mạo và tạm giữ người mua, đây là vụ lừa đảo đầu tiên bằng AI bị xử lý pháp lý tại Trung Quốc.

LỢI ÍCH GIAN LẬN TRONG KHOẢNG TRÁI CHUỐI HỆ THỐNG

Các thương nhân cho biết, các đối tượng lừa đảo thường nhắm vào các mặt hàng dễ rủi ro như thực phẩm tươi sống, mỹ phẩm giá rẻ hoặc đồ dễ vỡ. Lý do là trong các lĩnh vực này, người bán thường sẵn sàng hoàn tiền mà không yêu cầu khách hàng gửi lại hàng, tạo điều kiện thuận lợi cho các hoạt động gian lận.

Vấn đề này không chỉ xảy ra ở Trung Quốc. Theo Forter, công ty chuyên phát hiện các hoạt động gian lận tại New York, số lượng yêu cầu hoàn tiền dựa trên hình ảnh chỉnh sửa bằng AI đã tăng hơn 15% toàn cầu từ giữa năm 2024, thời điểm các công cụ AI tạo ảnh trở nên phổ biến và dễ tiếp cận hơn. Giám đốc điều hành Michael Reitblat cảnh báo rằng các tổ chức tội phạm có tổ chức đang tham gia vào cuộc chơi này, sử dụng ảnh AI tạo ra các vết nứt, móp méo trên đồ gia dụng nhằm thực hiện các yêu cầu hoàn tiền trị giá hàng triệu USD, thay đổi IP liên tục để ẩn danh và gây quá tải hệ thống xét duyệt.

HẦU HẾT LÀ CUỘC CHIẾN VỀ NIỀM TIN

Thị trường thương mại điện tử dựa trên giả định rằng phần lớn khách hàng là trung thực. Tuy nhiên, sự phát triển của AI đang thách thức nghiêm trọng nguyên tắc này. Một số nhà bán hàng đã cố gắng dùng các công cụ AI để phát hiện việc chỉnh sửa ảnh, nhưng còn nhiều hạn chế. Các nền tảng thương mại điện tử cũng chưa có các biện pháp đủ mạnh để bảo vệ người bán, phần lớn đẩy họ vào tình thế khó khăn: nếu siết chặt chính sách đổi trả để ngăn chặn lừa đảo, trải nghiệm khách hàng chân chính có thể bị ảnh hưởng tiêu cực.

Việc làm thế nào để duy trì được niềm tin dựa trên con người trong một thế giới ngày càng tràn ngập ảnh giả mạo đang trở thành bài toán nan giải cho ngành thương mại điện tử, nhất là khi các công cụ AI ngày càng làm cho việc phân biệt thật – giả trở nên khó khăn hơn bao giờ hết.