Ancaman keamanan siber seperti Distributed Denial of Service (DDoS) dan Brute Force terus mengalami peningkatan yang signifikan mengancam integritas dan ketersediaan layanan server berbasis jaringan.Penedekataan konvensional menggunakan firewall statis dan sistem aturan berbasis tanda tangan (signature-based) dinilai kurang efektif dalam menghadapi pola serangan yang semakin kompleks dan adaptif.Penelitian ini bertujuan untuk merancang dan mengimplementasikan sistem keamanan server berbasis kecerdasan buatan (Artifical Intelligence/AI) menggunakan algoritma Extreme Gradient Boosting (XGBoost) pada lingkungan sistem operasi Debian 12. Metode yang digunakan meliputi pembuatan dataset simulasi trafik jaringan yang mencerminkan kondisi normal, serangan DDoS, dan serangan Brute Force, diikuti dengan pelatihan model machine learning menggunakan Pustaka XGBoost pada lingkungan Python virtual environment. Model dilatih menggunakan tiga fitur utama: packet rate per detik, byte rate (KB), dan jumlah koneksi gagal. Implementasi dilakukan pada platform VirtualBox dengan Debian 12 sebagai sistem operasi host. Hasil pengujian menunjukkan bahwa model XGBoost yang dikembangkan berhasil mencapai akurasi klasifikasi sebesar 99,50%, dengan kemampuan mendeteksi serangan DDoS dan Brute Force secara real-time. Sistem mampu mengklasifikasikan trafik jaringan ke dalam kategori normal atau berbahaya dengan keyakinan di atas 99%, serta secara otomatis mengaktifkan mekanisme perlindungan firewall ketika serangan terdeteksi. Penelitian ini membuktikan bahwa pendekatan machine learning berbasis XGBoost merupakan solusi yang efektif, efisien, dan skalabel untuk implementasi Intrusion Detection System (IDS) pada lingkungan server modern.