Kehadiran peramban web AI, seperti Fellou dan Comet dari Perplexity, menandai fase baru dalam teknologi peramban, mengintegrasikan fitur AI canggih yang dapat membaca, merangkum, dan bahkan bertindak berdasarkan konten web. Alat-alat ini menjanjikan untuk meningkatkan alur kerja digital dan memperlancar penelitian online, tetapi para ahli keamanan mengangkat alarm tentang risiko yang mereka perkenalkan ke perusahaan.
Penelitian menunjukkan bahwa peramban AI sangat rentan terhadap serangan injeksi prompt tidak langsung. Kerentanan ini muncul ketika instruksi berbahaya disematkan dalam halaman web, yang diinterpretasikan oleh peramban AI sebagai perintah yang sah. Serangan semacam itu dapat memanipulasi perilaku AI, yang mengarah pada tindakan tidak sah yang dapat membahayakan data sensitif.
Bagi departemen TI, implikasinya jelas: peramban AI saat ini tidak cocok untuk digunakan di perusahaan karena ancaman keamanan yang signifikan. Uji coba telah menunjukkan bahwa model AI dapat salah mengartikan teks yang disematkan sebagai instruksi, mengeksekusi tindakan berdasarkan hak akses pengguna. Semakin banyak akses yang dimiliki pengguna, semakin besar potensi risiko bagi organisasi.
Salah satu skenario yang mengkhawatirkan melibatkan penyematan perintah dalam gambar yang dapat memicu asisten AI untuk berinteraksi dengan sumber daya sensitif, seperti email perusahaan atau dasbor perbankan. Uji coba lain menunjukkan bagaimana prompt asisten AI dapat dibajak untuk melakukan tugas tidak sah atas nama pengguna, menyoroti bahaya dari kerentanan ini.
Penggabungan kueri pengguna dengan data web langsung menciptakan situasi di mana peramban AI dapat secara tidak sengaja mengakses dan bertindak berdasarkan input berbahaya. Ini menimbulkan ancaman serius bagi organisasi yang bergantung pada tata kelola data dan kontrol akses, karena lapisan AI yang terkompromi dapat melewati langkah-langkah keamanan seperti firewall dan pertukaran token, secara efektif mengubah peramban AI menjadi ancaman dari dalam. Tanpa pengawasan yang memadai, peramban ini dapat beroperasi tanpa terdeteksi, mengeksekusi tindakan berbahaya untuk jangka waktu yang lama.
Seiring fitur AI semakin terintegrasi ke dalam peramban mainstream seperti Chrome dan Edge, organisasi harus tetap waspada. Generasi peramban di masa depan perlu menyertakan langkah-langkah pengaman yang membedakan antara niat pengguna dan perintah yang dihasilkan AI untuk mencegah eksploitasi melalui injeksi prompt. Hingga langkah-langkah tersebut diterapkan, generasi peramban AI saat ini harus diperlakukan dengan hati-hati, mirip dengan instalasi perangkat lunak pihak ketiga yang tidak sah.