Perkembangan Artificial Intelligence dalam dunia pendidikan menghadirkan peluang besar dalam meningkatkan efektivitas pembelajaran melalui personalisasi materi, analisis data, dan pengembangan sistem pembelajaran adaptif. Namun, penggunaan AI yang tidak disertai dengan landasan etik berpotensi menimbulkan dehumanisasi algoritma, yaitu kondisi ketika manusia direduksi menjadi objek data dan kehilangan dimensi moral, spiritual, serta sosialnya. Penelitian ini bertujuan menganalisis urgensi Pendidikan Agama Islam dalam menghadapi perkembangan AI sebagai upaya menjaga fitrah manusia dari dehumanisasi algoritma. Penelitian ini menggunakan pendekatan kualitatif dengan metode studi kepustakaan. Data diperoleh melalui kajian terhadap literatur ilmiah, buku akademik, dokumen kebijakan, serta sumber normatif Islam berupa Al-Qur’an dan hadis yang berkaitan dengan fitrah manusia, etika teknologi, akhlak, dan tanggung jawab kekhalifahan. Analisis data dilakukan menggunakan teknik analisis isi (content analysis) melalui tahapan identifikasi, klasifikasi, interpretasi, dan sintesis literatur. Hasil kajian menunjukkan bahwa AI memiliki potensi positif dalam mendukung transformasi pendidikan, tetapi perlu diarahkan melalui nilai-nilai kemanusiaan dan prinsip etika Islam. PAI memiliki peran strategis dalam menjaga fitrah manusia melalui penguatan konsep karāmah insāniyyah, khalifah, tauhid, amanah, dan tanggung jawab moral dalam penggunaan teknologi. Penelitian ini menawarkan perspektif human-centered Islamic education, yaitu paradigma pendidikan yang menempatkan manusia sebagai pusat, sedangkan AI sebagai instrumen pendukung dalam mencapai tujuan pendidikan Islam. Dengan demikian, PAI tidak hanya berfungsi sebagai penguatan literasi teknologi, tetapi juga sebagai fondasi moral dan spiritual dalam membentuk generasi yang mampu memanfaatkan AI secara kritis, etis, dan bertanggung jawab.