Di platform media sosial China, RedNote, banyak penjual e-commerce dan perwakilan layanan pelanggan melaporkan menerima klaim pengembalian dana yang disertai dengan gambar yang dihasilkan AI yang mencurigakan. Salah satu penjual menceritakan kasus di mana seorang pelanggan mengklaim bahwa seprai mereka robek, tetapi karakter Cina pada label pengiriman tampak tidak masuk akal. Penjual lain mempertanyakan keaslian foto yang menunjukkan cangkir keramik yang retak, mencatat bahwa kerusakan tersebut lebih mirip sobekan kertas daripada patahan keramik yang sebenarnya.
Para pedagang telah mengidentifikasi kategori produk tertentu yang sangat rentan terhadap penipuan yang dihasilkan AI ini, termasuk bahan makanan segar, produk kecantikan murah, dan barang-barang halus seperti cangkir keramik. Seringkali, penjual tidak memerlukan pelanggan untuk mengembalikan barang-barang ini sebelum mengeluarkan pengembalian dana, menjadikannya target yang mudah untuk klaim penipuan.
Dalam insiden yang mencolok, seorang penjual kepiting hidup di Douyin menerima video dari seorang pembeli yang mengklaim bahwa sebagian besar kepiting telah tiba dalam keadaan mati. Namun, penjual, Gao Jing, menunjukkan ketidakkonsistenan dalam video tersebut, seperti posisi kaki kepiting dan perbedaan jenis kelamin mereka. Setelah melaporkan penipuan tersebut, polisi mengonfirmasi bahwa video tersebut dipalsukan, yang mengarah pada penahanan pembeli, menandai respons regulasi yang signifikan terhadap penipuan yang sedang muncul ini.
Masalah ini tidak terbatas pada China; sebuah perusahaan deteksi penipuan yang berbasis di New York, Forter, melaporkan peningkatan lebih dari 15 persen dalam gambar yang dimodifikasi AI yang digunakan dalam klaim pengembalian dana secara global sejak awal tahun. Michael Reitblat, CEO Forter, mencatat bahwa peningkatan penipuan semacam itu didorong oleh aksesibilitas alat pembangkit gambar, yang dapat dengan mudah menghasilkan visual yang meyakinkan tetapi palsu.
Kelompok kejahatan terorganisir juga memanfaatkan taktik ini untuk melakukan penipuan pengembalian dana skala besar, dengan satu kasus melibatkan klaim lebih dari satu juta dolar menggunakan gambar yang dimodifikasi AI. Sebagai respons, beberapa penjual beralih ke alat AI sendiri untuk mendeteksi gambar yang menipu, meskipun metode ini tidak sepenuhnya dapat diandalkan. Saat platform e-commerce bergulat dengan implikasi dari penipuan ini, mereka mungkin perlu mempertimbangkan kembali kebijakan pengembalian mereka, yang dapat secara tidak sengaja berdampak pada pelanggan yang jujur. Meningkatnya prevalensi AI dalam konteks ini menekankan perlunya proses verifikasi yang lebih baik untuk menjaga kepercayaan dalam belanja online.