Konten Ilegal Kecerdasan Buatan Berbasis Deepfake dan Upaya Penanggulangannya di Indonesia - Putri Aulia Lestari; Zulfa Rizqi Saputri; Resti Jamilah; Febiyanti Febiyanti; Muhamad Fadli Fadilah; M Fadlan Firnanda; Tya Septiani Nurfauzia Koeswara (Jurnal Ilmiah Sistem Informasi, 2026)
Perkembangan teknologi telah mengalami kemajuan yang luar biasa, terutama dalam bidang Kecerdasan Buatan (Artificial Intelligence/AI) yang telah merevolusi berbagai sektor seperti pendidikan, hiburan, bisnis, dan komunikasi. Namun, di balik berbagai manfaat tersebut, muncul pula risiko serius, salah satunya adalah penyalahgunaan teknologi deepfake dalam pembuatan konten digital yang ilegal maupun tidak etis. Penelitian ini bertujuan untuk mengkaji penyalahgunaan AI dengan fokus pada motif, penyebab, langkah pencegahan, serta kasus-kasus yang terjadi di Indonesia. Metode yang digunakan adalah kajian pustaka dengan analisis kualitatif deskriptif, menggunakan data sekunder dari jurnal ilmiah, kerangka hukum seperti Undang-Undang ITE, Undang-Undang Pornografi, dan Undang-Undang Perlindungan Data Pribadi (PDP), serta laporan kasus yang beredar di media sosial dan berita daring. Hasil penelitian menunjukkan bahwa motif utama pelaku dalam penyalahgunaan deepfake meliputi keuntungan finansial, balas dendam pribadi, propaganda politik, dan eksploitasi seksual. Selain itu, penyebab utama yang teridentifikasi adalah pesatnya perkembangan AI, lemahnya penegakan hukum, serta rendahnya kesadaran masyarakat terhadap etika dan keamanan digital. Untuk mengatasi permasalahan ini, diperlukan pendidikan mengenai etika penggunaan teknologi AI, penguatan kebijakan hukum, serta pengembangan sistem deteksi deepfake berbasis AI. Penelitian ini menekankan pentingnya kolaborasi antara pemerintah, pengembang teknologi, dan masyarakat guna memastikan penggunaan AI yang bertanggung jawab serta melindungi individu dari ancaman manipulasi digital di era teknologi ini.