BUMN Ungkap Kunci Utama Pengembangan AI

Pengembangan Artificial Intelligence (AI) atau kecerdasan buatan mesti memiliki regulasi, standar dan panduan yang sangat jelas. Hal ini diperlukan agar AI dapat diadopsi secara aman sekaligus mendukung keberlanjutan bisnis.

Data IBM Report menunjukkan bahwa 74% organisasi mengalami kebocoran AI pada tahun 2024, meningkat 67% dari tahun sebelumnya karena tidak memiliki kebijakan tata kelola AI.

Direktur Digital Business Peruri, Farah Fitria Rahmayanti menekankan, penerapan prinsip Privacy by Design menjadi kunci utama dalam pengembangan teknologi berbasis AI. Menurutnya, privasi tidak boleh diperlakukan hanya sebagai fitur tambahan, melainkan harus hadir sejak tahap awal perancangan sistem.

"Analogi pentingnya, prinsip ini seperti sabuk pengaman yang dipasang pada mobil saat dirakit, bukan setelah kendaraan selesai dibuat. Pendekatan ini diyakini mampu mengurangi risiko kebocoran data yang semakin meningkat seiring dengan masifnya adopsi AI," ujar Farah dalam keterangannya, Minggu (21/9/2025).

Menurut Farah terdapat prinsip kedaulatan data di era generatif AI sebagai panduan praktis adopsi yang aman bagi organisasi, di antaranya menerapkan Zero-Trust Data Input, hanya menggunakan layanan AI kelas enterprise dengan jaminan zero data retention, melakukan anonimisasi data sensitif, serta membangun panduan internal penyusunan prompt agar tidak memasukkan informasi rahasia.

Sebaliknya, praktik yang perlu dihindari adalah penggunaan shadow AI oleh karyawan, mengunggah dokumen internal secara penuh ke platform publik, mengabaikan analisis kontrak dan syarat layanan, serta membiarkan kerentanan terhadap serangan prompt injection.

Melalui prinsip tersebut, setiap layanan digital yang dikembangkan Peruri diarahkan tidak hanya menjadi produk yang nyaman dan stabil, tetapi juga aman. Tujuan akhirnya adalah membangun ekosistem AI yang berkelanjutan dan beretika, sekaligus mendukung visi besar Indonesia Emas 2045.