Hubungan antara efisiensi biaya AI dan kedaulatan data semakin kompleks, mendorong organisasi global untuk mempertimbangkan kembali kerangka risiko perusahaan mereka. Selama lebih dari setahun, diskusi seputar AI generatif terutama terfokus pada pencapaian kemampuan yang lebih tinggi, sering kali diukur dengan jumlah parameter dan skor tolok ukur. Namun, percakapan di ruang rapat kini beralih menuju pemahaman yang lebih mendalam tentang isu-isu ini.
Daya tarik model AI berbiaya rendah dan berkinerja tinggi sangat signifikan, menawarkan jalur untuk inovasi yang cepat. Namun, risiko tersembunyi terkait dengan residensi data dan pengaruh pemerintah memaksa perusahaan untuk mengevaluasi kembali pilihan vendor mereka. Kasus terbaru adalah DeepSeek, sebuah laboratorium AI yang berbasis di China yang telah memicu perdebatan luas di dalam industri.
Bill Conner, CEO Jitterbit dan mantan penasihat Interpol dan GCHQ, mencatat bahwa keberhasilan awal DeepSeek disebabkan oleh tantangannya terhadap kebijaksanaan konvensional bahwa model AI berkinerja tinggi memerlukan dukungan finansial yang substansial. Efisiensi ini sangat menarik bagi bisnis yang bertujuan untuk mengurangi biaya tinggi yang terkait dengan proyek AI generatif. Conner menekankan bahwa biaya pelatihan yang dilaporkan rendah telah menghidupkan kembali diskusi seputar efisiensi dan konsep 'cukup baik' AI.
Namun, antusiasme terhadap solusi AI yang hemat biaya kini bertabrakan dengan realitas geopolitik. Efisiensi operasional tidak dapat dipisahkan dari keamanan data, terutama ketika data digunakan untuk melatih model yang berada di yurisdiksi dengan standar hukum yang bervariasi mengenai privasi dan akses negara. Pengungkapan terbaru tentang DeepSeek telah membangkitkan alarm bagi perusahaan-perusahaan Barat, mengungkapkan bahwa perusahaan tersebut tidak hanya menyimpan data di China tetapi juga membagikannya dengan badan intelijen negara.
Situasi ini meningkatkan profil risiko di luar masalah privasi biasa ke ranah keamanan nasional. Bagi para pemimpin perusahaan, ini menimbulkan ancaman signifikan, karena mengintegrasikan model bahasa besar sering kali melibatkan penghubungan mereka dengan data sensitif dan informasi pelanggan. Jika model AI memiliki kerentanan atau mewajibkan berbagi data dengan intelijen asing, hal itu mengkompromikan keamanan perusahaan dan membatalkan manfaat biaya apa pun. Conner memperingatkan bahwa hubungan antara DeepSeek dan jaringan pengadaan militer seharusnya menjadi kisah peringatan bagi CEO, CIO, dan petugas risiko, karena memanfaatkan teknologi semacam itu dapat secara tidak sengaja mengarah pada pelanggaran sanksi atau masalah rantai pasokan.
Seiring pasar AI generatif berkembang, pentingnya kepercayaan, transparansi, dan kedaulatan data diperkirakan akan melampaui daya tarik efisiensi biaya semata. Organisasi harus memastikan bahwa mereka memiliki visibilitas yang komprehensif ke dalam rantai pasokan AI mereka dan implikasi dari penggunaan data mereka, karena taruhannya terus meningkat dalam lanskap yang kompleks ini.