Rekayasa Algoritma Berbasis Explainable AI (XAI) dalam Sistem Pendukung Keputusan Publik - Baiq Tabina Aadila Budiawan; Wenty Zahraty (Lembaga Riset Ilmiah, 2026)
Transformasi digital di sektor publik masih menghadapi fenomena black-box, yaitu keputusan administratif berbasis kecerdasan buatan (AI) yang sulit dijelaskan dan diaudit sehingga berpotensi menimbulkan bias serta ketidakadilan, termasuk dalam penyaluran bantuan sosial (DTKS). Penelitian ini bertujuan merekayasa model sistem pendukung keputusan publik menggunakan pendekatan Explainable AI (XAI) melalui metode LIME dan SHAP. Dengan metodologi Design Science Research (DSR), penelitian menghasilkan artefak yang mampu mengubah data teknis menjadi justifikasi yang transparan dan mudah dipahami. Kebaruan penelitian terletak pada integrasi lapisan interpretabilitas berbasis LIME dan SHAP sebagai instrumen meaningful human control untuk mewujudkan akuntabilitas parametrik yang dapat diaudit secara real-time. Hasil penelitian menunjukkan bahwa implementasi XAI mampu meminimalkan ruang gelap diskresi birokrasi, mengurangi potensi manipulasi data, serta memperkuat akuntabilitas hukum. Selain meningkatkan efisiensi birokrasi, model ini mendukung penerapan prinsip Digital Good Governance. Penelitian menyimpulkan bahwa transparansi algoritmik merupakan pilar penting keadilan birokrasi dan merekomendasikan audit algoritma berbasis XAI pada sistem pelayanan publik. Digital transformation in the public sector is often constrained by the