Analisis Pengaruh Model Embedding Pada Kualitas Retrieval Dokumen: Studi Kasus Peraturan Rektor Universitas Brawijaya - Adriansyah, Rachmat; Perdana, Rizal Setya; Adikara, Putra Pandu (Fakultas Ilmu Komputer (FILKOM), Universitas Brawijaya, 2026)
Dokumen hukum seperti Peraturan Rektor Universitas Brawijaya memiliki struktur kompleks dan terminologi teknis yang menyulitkan pencarian informasi secara efisien melalui metode manual. Penelitian ini bertujuan untuk menganalisis pengaruh dan membandingkan performa beberapa model embedding terhadap kualitas retrieval dokumen hukum sebagai komponen utama dalam system Retrieval-Augmented Generation (RAG). Evaluasi dilakukan terhadap tiga model embedding, yaitu Legal-BERT, Qwen3-Embedding-8B, dan Linq-Embed-Mistral, dengan menerapkan dua strategi chunking berupa fixed-size dan semantic chunking. Data uji terdiri dari 32 query pengguna nyata yang diujikan pada empat dokumen Peraturan Rektor Universitas Brawijaya. Kinerja retrieval diukur menggunakan metrik Precision@k, Mean Reciprocal Rank (MRR), Mean Average Precision (MAP), dan Normalized Discounted Cumulative Gain (NDCG@k). Hasil pengujian menunjukkan bahwa Qwen3-Embedding-8B dengan strategi fixed-size chunking memberikan performa terbaik dengan nilai Precision@5 sebesar 0,456, MRR 0,819, MAP 0,810, dan NDCG@5 sebesar 0,848. Sebaliknya, Legal BERT menunjukkan kinerja terendah dengan Precision@5 sebesar 0,031, MRR 0,073, MAP 0,069, dan NDCG@5 sebesar 0,076. Selain itu, strategi fixed-size chunking secara konsisten menghasilkan performa lebih baik dibandingkan semantic chunking dalam menjaga relevansi konteks dokumen. Temuan ini menegaskan bahwa pemilihan model embedding dan strategi chunking berperan penting dalam meningkatkan akurasi retrieval dokumen hukum sebagai fondasi sistem RAG.