JURNAL INSTEK (Informatika Sains dan Teknologi)
Vol 11 No 2 (2026): OCTOBER

Pengenalan BISINDO Berbasis MediaPipe dengan Transformer Encoder, Long Short-Term Memory, Connectionist Temporal Classification, dan Text-to-Speech

Adellia, Elvina (Unknown)
Hasan, Firman Noor (Unknown)



Article Info

Publish Date
30 Oct 2026

Abstract

Perbedaan pemahaman antara pengguna Bahasa Isyarat Indonesia (BISINDO) dan masyarakat yang belum menguasainya masih menghambat komunikasi. Penelitian ini bertujuan mengembangkan prototipe pengenalan 15 kosakata atau frasa dasar BISINDO secara real-time dengan keluaran teks dan suara. Dataset terdiri atas 4.500 sequence yang direkam oleh satu peraga isyarat, yaitu peneliti sendiri. Sistem menggunakan MediaPipe untuk mengambil landmark tangan dan tubuh. Fitur koordinat dan velocity disusun menjadi sequence 30 frame, kemudian diproses menggunakan model Transformer Encoder dan LSTM. Hasil prediksi diolah menggunakan CTC dan Levenshtein Distance, ditampilkan melalui Streamlit, dan diubah menjadi suara dengan Text-to-Speech. Evaluasi dilakukan pada 450 sequence yang juga digunakan sebagai data validasi. Hasilnya menunjukkan accuracy 95,56%, precision 95,53%, recall 95,57%, F1-score 95,55%, dan CER 4,00%. Pada pengujian real-time, akurasi mencapai 92,00% pada jarak ±100 cm, 92,67% pada pencahayaan terang, dan 92,67% pada posisi kamera lurus. Namun, akurasi turun menjadi 65,33% pada jarak jauh, 81,33% pada pencahayaan redup, dan 78,00% pada posisi serong. Hasil penelitian masih terbatas pada kosakata, peraga isyarat, dan kondisi pengujian yang digunakan.

Copyrights © 2026






Journal Info

Abbrev

instek

Publisher

Subject

Computer Science & IT Control & Systems Engineering Electrical & Electronics Engineering Engineering

Description

The Scope topics include, but are not limited to : Agent System and Multi-Agent Systems Analysis & Design of Information System Artificial Intelligence Big Data and Data Mining Cloud & Grid Computing Computer Vision Cryptography Decision Support System DNA Computing E-Government E-Business ...