<![CDATA[Perkembangan dalam teknologi kecerdasan buatan telah menghasilkan banyak inovasi yang membuat kegiatan manusia lebih mudah, namun di sisi lain juga menghadirkan bentuk kejahatan daring baru, salah satunya adalah melalui deepfake. Tulisan ini menjelaskan risiko yang ditimbulkan oleh deepfake dalam penyalahgunaan Grok AI di platform X sebagai contoh disinformasi yang memiliki efek luas terhadap individu dan komunitas. Dengan pendekatan penelitian kualitatif deskriptif melalui studi kasus, penelitian ini mengeksplorasi bagaimana Grok AI digunakan untuk menghasilkan konten visual dan audio yang palsu namun terlihat nyata, sehingga bisa menyesatkan masyarakat, merusak reputasi, dan menyebabkan dampak psikologis serta sosial yang serius bagi para korban, terutama wanita. Temuan dari pembahasan memperlihatkan bahwa deepfake tidak hanya mempercepat penyebaran disinformasi, tetapi juga berkontribusi untuk mengurangi kepercayaan publik terhadap bukti visual di ranah digital serta memicu krisis kebenaran. Selain itu, penelitian ini menyoroti kekurangan dalam regulasi hukum di Indonesia yang belum secara khusus menangani kejahatan deepfake, keterbatasan dalam penegakan hukum, serta kurangnya tanggung jawab dari platform digital dalam menanggulangi penyebaran konten yang manipulatif. Oleh sebab itu, dibutuhkan tindakan pencegahan yang menyeluruh melalui peningkatan regulasi, pengembangan teknologi pendeteksi deepfake, peningkatan peran platform digital, serta peningkatan literasi digital masyarakat untuk membangun ruang digital yang lebih aman, etis, dan bertanggung jawab.]]>
