Scout AI baru-baru ini melakukan demonstrasi di sebuah pangkalan militer rahasia di California tengah, di mana teknologinya digunakan untuk mengendalikan kendaraan off-road yang dapat mengemudi sendiri dan dua drone mematikan. Agen AI berhasil menemukan truk yang tersembunyi dan menghancurkannya menggunakan bahan peledak. Colby Adcock, CEO Scout AI, menekankan perlunya AI canggih dalam operasi militer, menyatakan bahwa sistem mereka dilatih untuk beralih dari fungsi AI umum ke peran tempur.
Perusahaan ini merupakan bagian dari gelombang startup yang bertujuan untuk mengintegrasikan teknologi AI dari laboratorium besar ke dalam aplikasi militer. Banyak pembuat kebijakan percaya bahwa memanfaatkan AI akan menjadi kunci untuk mempertahankan superioritas militer. Keyakinan ini telah menyebabkan pembatasan penjualan teknologi AI canggih ke negara-negara seperti China, meskipun perubahan kebijakan terbaru telah melonggarkan beberapa kontrol ini.
Michael Horowitz, seorang profesor di Universitas Pennsylvania dan mantan pejabat Pentagon, mendukung dorongan untuk integrasi AI dalam teknologi pertahanan. Namun, ia memperingatkan bahwa menerapkan kemajuan AI terbaru bisa menjadi tantangan. Ia menunjukkan bahwa model bahasa besar dapat tidak dapat diprediksi, dan agen AI mungkin tidak berfungsi secara andal bahkan dalam tugas-tugas sederhana, menimbulkan kekhawatiran tentang efektivitas mereka dalam pengaturan militer.
Selama demonstrasi, sistem Scout AI, yang dikenal sebagai Fury Orchestrator, diberikan perintah untuk melaksanakan misi yang melibatkan kendaraan darat dan drone. Sebuah model AI besar menginterpretasikan perintah tersebut dan mengarahkan model-model yang lebih kecil untuk melaksanakan tindakan yang diperlukan. Kendaraan darat menavigasi ke area target, di mana drone dikerahkan untuk mengidentifikasi dan menghancurkan truk tersebut.
Sementara beberapa sistem militer dapat secara otonom menggunakan kekuatan mematikan, para kritikus memperingatkan bahwa pengenalan AI dapat menyebabkan otonomi yang lebih luas dengan lebih sedikit perlindungan. Kekhawatiran etis muncul, terutama mengenai kemampuan AI untuk membedakan antara kombatan dan non-kombatan. Scout AI mengklaim teknologinya mematuhi aturan keterlibatan militer dan hukum internasional, dan perusahaan ini sudah bekerja pada kontrak dengan Departemen Pertahanan untuk mengembangkan sistem tambahan untuk kendaraan udara tanpa awak. Adcock percaya bahwa otonomi sistem mereka membedakan mereka dari teknologi militer tradisional, meskipun para ahli memperingatkan bahwa mengubah demonstrasi yang sukses menjadi sistem yang andal dan siap lapangan tetap menjadi hambatan yang signifikan.