Kekhawatiran tentang Ringkasan AI Google telah diungkapkan sebelumnya karena kecenderungannya mengandung kesalahan dan penyajian yang salah. Namun, masalah yang lebih mengkhawatirkan telah muncul: ringkasan yang dihasilkan oleh AI ini juga dapat menjadi sumber penipuan yang berbahaya. Nomor telepon penipuan disisipkan dalam respons AI ini, menyesatkan pengguna dan menempatkan informasi pribadi mereka dalam risiko.
Laporan terbaru dari The Washington Post dan Digital Trends menyoroti kasus di mana nomor dukungan penipuan muncul dalam Ringkasan AI Google, mendorong peringatan dari lembaga keuangan kepada pelanggan mereka. Meskipun informasi yang salah bukanlah fenomena baru, desain Google Search saat ini telah memperburuk masalah ini, membuatnya lebih mudah bagi penipu untuk mengeksploitasi sistem.
Penipuan biasanya terjadi ketika seorang pengguna mencari nomor kontak perusahaan dan disajikan dengan nomor yang dihasilkan oleh AI. Alih-alih terhubung dengan bisnis yang sah, panggilan tersebut diarahkan ke penipu yang menyamar sebagai perusahaan, yang kemudian mencoba untuk mendapatkan informasi sensitif dari penelepon. Metode tepat bagaimana nomor-nomor penipuan ini disisipkan masih belum jelas, tetapi diyakini bahwa mereka berasal dari platform online yang tidak jelas sebelum digabungkan oleh AI.
Google mengakui masalah ini dan mengklaim sedang aktif memerangi penipuan ini dengan meningkatkan sistem deteksi spamnya. Perusahaan menyatakan bahwa langkah-langkah anti-spamnya efektif dalam menyaring penipuan dan menampilkan nomor dukungan pelanggan yang terverifikasi. Namun, masalah ini tidak terbatas pada Google, karena masalah serupa telah diidentifikasi di mesin pencari dan platform AI lainnya.
Untuk melindungi diri dari penipuan ini, pengguna disarankan untuk tetap skeptis terhadap informasi yang disajikan dalam Ringkasan AI, terutama mengenai detail spesifik seperti nomor telepon. Disarankan untuk memverifikasi informasi kontak langsung dari situs web resmi perusahaan yang bersangkutan. Meskipun Google sedang bekerja pada perbaikan, pengguna harus selalu memeriksa ulang nomor telepon yang ingin mereka hubungi untuk menghindari menjadi korban penipuan. Untuk saat ini, tidak ada opsi untuk menonaktifkan Ringkasan AI, jadi pengguna mungkin perlu menggulir melewati mereka atau mempertimbangkan mesin pencari alternatif untuk informasi yang lebih dapat diandalkan.