Tata Kelola Kecerdasan Buatan di Indonesia: Analisis Mendalam Risiko Deepfake dan Dampaknya terhadap Keamanan Informasi Nasional

Perkembangan pesat teknologi Generative AI telah memunculkan ancaman baru yang sangat serius bagi keamanan informasi global, yaitu deepfake. Deepfake adalah manipulasi audio-visual yang dihasilkan oleh kecerdasan buatan (AI) yang sangat realistis, sehingga sulit dibedakan dari konten asli. Riset independen yang disusun oleh Ujang Trisno, Direktur Riset Data Cyber Indonesia, ini bertujuan untuk menganalisis secara mendalam risiko deepfake terhadap keamanan informasi nasional Indonesia. Menggunakan pendekatan kualitatif-deskriptif dengan metode wawancara mendalam (in-depth interview) eksklusif terhadap tiga narasumber kunci yang kompeten di bidangnya—seorang praktisi keamanan siber senior, seorang penyidik siber dari kepolisian, dan seorang akademisi hukum tata negara—serta analisis literatur dan dokumen hukum yang komprehensif, riset ini membedah anatomi ancaman deepfake dari berbagai perspektif. Hasil riset mengungkap tiga bahaya utama deepfake di Indonesia. Pertama, eksploitasi seksual melalui pembuatan konten pornografi palsu (deepfake pornography) yang menargetkan perempuan dan anak-anak, yang tidak hanya menghancurkan martabat korban tetapi juga menimbulkan trauma psikologis berat dan berkepanjangan. Kedua, penipuan finansial dengan memalsukan identitas, wajah, dan suara tokoh publik, pejabat, atau anggota keluarga untuk meyakinkan korban agar mentransfer sejumlah uang. OJK mencatat 1.379 laporan penipuan keuangan berbasis AI sepanjang tahun 2026, dan deepfake menjadi salah satu modus yang paling berbahaya karena sulit dikenali. Ketiga, perusakan reputasi dan personal branding melalui video manipulatif yang menampilkan pernyataan kontroversial palsu, yang dapat menyebar dalam hitungan jam di media sosial dan merusak karier serta kehidupan sosial korban secara permanen. Riset ini juga mengkaji kerangka hukum yang ada di Indonesia, seperti UU ITE, KUHP, dan UU PDP, serta menemukan bahwa regulasi saat ini belum cukup spesifik dan komprehensif untuk mengakomodasi kompleksitas ancaman deepfake, terutama dalam hal pembuktian forensik dan penanganan pelaku lintas negara. Diperlukan pembentukan regulasi khusus yang mengatur pembuatan, penyebaran, dan penggunaan deepfake, penguatan kapasitas forensik digital aparat penegak hukum, kewajiban platform digital untuk menyediakan alat deteksi dan pelabelan konten AI, serta literasi digital yang masif dan berkelanjutan yang menekankan aspek etika dan moral. Riset ini menyimpulkan bahwa deepfake bukan sekadar isu teknologi, melainkan ancaman multidimensional yang serius terhadap kedaulatan informasi, keamanan nasional, dan hak asasi manusia. Kolaborasi lintas sektor antara pemerintah, platform digital, akademisi, dan masyarakat sipil menjadi keniscayaan untuk membangun ketahanan informasi yang tangguh di era Generative AI.