Saat organisasi mencari peningkatan produktivitas melalui model bahasa besar dan asisten AI, mereka juga harus menghadapi risiko keamanan siber yang diperkenalkan oleh teknologi ini. Kemampuan yang sama yang membuat asisten AI berharga—seperti menjelajahi situs web secara langsung dan mengingat konteks pengguna—juga memperluas potensi permukaan serangan untuk ancaman siber.
Tenable telah merilis temuan di bawah spanduk "HackedGPT," yang merinci berbagai kerentanan dan metode serangan, termasuk injeksi prompt tidak langsung, yang dapat menyebabkan akses data yang tidak sah dan keberlangsungan malware. Meskipun beberapa kerentanan telah ditangani, yang lain tetap dapat dieksploitasi, seperti yang dicatat dalam advis Tenable.
Untuk mengurangi risiko yang terkait dengan asisten AI, perusahaan perlu menerapkan tata kelola dan kontrol yang memperlakukan teknologi ini sebagai pengguna atau perangkat. Ini termasuk menetapkan praktik audit dan pemantauan yang ketat untuk mengawasi operasional mereka. Penelitian menunjukkan bahwa kegagalan dalam keamanan asisten AI dapat muncul dari injeksi prompt tidak langsung yang menyisipkan instruksi berbahaya dalam konten web, serta kueri front-end yang memperkenalkan perintah berbahaya.
Implikasi bagi bisnis sangat signifikan, memerlukan rencana respons insiden, tinjauan hukum, dan langkah-langkah untuk melindungi reputasi mereka. Studi yang ada telah menunjukkan bahwa asisten AI dapat secara tidak sengaja membocorkan informasi sensitif, mendorong perlunya pemeliharaan berkelanjutan oleh vendor AI dan profesional keamanan siber.
Seiring dengan berkembangnya fungsionalitas asisten AI, begitu juga dengan potensi mode kegagalan. Dengan memperlakukan asisten AI sebagai aplikasi langsung yang terhubung ke internet daripada sekadar alat produktivitas, organisasi dapat meningkatkan ketahanan mereka terhadap ancaman siber. Ini melibatkan pemeliharaan inventaris semua model dan asisten AI yang digunakan, memastikan mereka tunduk pada kebijakan zero-trust, dan menerapkan protokol manajemen identitas dan akses yang ketat untuk mencegah akses dan tindakan yang tidak sah.