Abstrak:Penelitian ini bertujuan untuk mengetahui kesalahan apa saja yang dilakukan mahasiswa dalam menyelesaikan soal-soal teori bilangan menurut tahap Kastolan, apa saja faktor penyebab kesalahan mahasiswa dalam menyelesaikan soal-soal teori bilangan, dan apakah ada pengaruh gender dalam menyelesaika soal matematika. Metode penelitian ini adalah deskriptif dengan pendekatan kualitatif dengan subjek penelitian sebanyak 6 orang mahasiswa Prodi Pendidikan Matematika Universitas Sultan Ageng Tirtayasa yang terdiri dari 3 orang mahasiswa laki-laki dan 3 orang mahasiswa perempuan. Teknik pengumpulan data yang digunakan adalah tes dan wawancara. Hasil yang diperoleh adalah 33.3% kesalahan konseptual, 33.3% kesalahan prosuderal dan 38.8% kesalahan teknis. Faktor penyebab kesalahan mahasiswa dalam menyelsaikan soal-soal teori bilangan anatara lain: 1) Kurangnya mahasiswa dalam memahami soal yang diberikan sehingga kebingungan dalam menyelesaikan soal tersebut; 2) Mahasiswa kurang teliti dalam perhitungan yang menyebabkan hasil akhir salah; 3) Mahasiswa tidak hafal teorema-teorema dalam mata kuliah teori bilangan. Pada mahasiswa laki-laki persentase rata-rata kesalahan yang dilakukan sebesar 35.76%, sedangkan pada mahasiswa perempuan sebesar 16.03%. Sehingga dapat disimpulkan bahwa perbedaan gender sangat berpengaruh dalam menyelesaikan masalah matematika, dimana kemampuan perempuan menyelesaikan permasalahan matematika lebih baik daripada kemampuan laki-laki. Kata-kata kunci:Faktor, Gender, Kesalahan, Teori Bilangan, Tahap Kastolan.