SISTEM PERINGATAN DINI UNTUK DETEKSI AKTIVITAS AI BERBAHAYA BERBASIS MACHINE LEARNING - Ibrahim, Akbar; Tue Rebong, Hendrikus; Adiputra, Jason; Satria, Fauzan; Ilyas, Muhammad; Budiarti, Yusnia; Heriyanto; Amsury, Fachri (LPPM STMIK Lombok, 2026)
Perkembangan teknologi kecerdasan buatan (AI) telah memberikan banyak manfaat di berbagai sektor, namun juga menimbulkan risiko keamanan akibat potensi penyalahgunaan sistem AI. Penelitian ini mengusulkan sistem peringatan dini berbasis machine learning untuk mendeteksi aktivitas AI berbahaya secara proaktif melalui prompt berbasis teks. Sistem ini menerapkan pendekatan klasifikasi teks menggunakan algoritma Logistic Regression, Linear Support Vector Classifier (SVC), dan Random Forest dengan ekstraksi fitur TF-IDF. Hasil pengujian menunjukkan bahwa seluruh model menghasilkan performa yang kuat dengan tingkat akurasi di atas 95%. Model Random Forest menunjukkan performa tertinggi dengan akurasi sebesar 95,64% dan nilai ROC-AUC 95,64%, sementara Linear SVC dan Logistic Regression memberikan hasil yang stabil dan kompetitif. Temuan ini menunjukkan bahwa sistem yang diusulkan efektif sebagai mekanisme peringatan dini dalam mendeteksi prompt AI berbahaya sebelum terjadi eskalasi ancaman.