Jurnal Teknik ITS
Vol 10, No 2 (2021)

Analisis Pembacaan Gerakan Bibir Menggunakan Gabungan Arsitektur Convolutional Neural Network dan Recurrent Neural Network

Akwila Feliciano Pradiptatmaka (Departemen Teknik Informatika Institut Teknologi Sepuluh Nopember Surabaya)
Nanik Suciati (Departemen Teknik Informatika Institut Teknologi Sepuluh Nopember Surabaya)
Dini Adni Navastara (Departemen Teknik Informatika Institut Teknologi Sepuluh Nopember Surabaya)



Article Info

Publish Date
30 Dec 2021

Abstract

Perkembangan bidang deep learning membawa pengaruh besar terhadap kemajuan teknologi. Pengucapan kata secara verbal dapat dibaca dengan pembelajaran mandiri melalui gerakan bibir. Dengan menggunakan arsitektur ekstraksi fitur dari suatu citra dan menggabungkannya dengan arsitektur klasifikasi secara sequence, permasalahan visual speech recognition ini dapat menjadi langkah awal untuk membantu para penyandang tuna rungu, yang dominan memahami komunikasi dari gerakan bibir lawan bicara ataupun dengan menggunakan bahasa isyarat. Selain itu, manfaat dari implementasi sistem ini dapat membantu lawan bicara dalam memahami pembicaraan pada kondisi audio yang terdistorsi. Arsitektur deep learning yang digunakan pada eksperimen ini mengacu pada implementasi dengan menggunakan arsitektur convolution residual network dan recurrent neural network, yang dapat mengklasifikasikan data berelasi secara sequence atau memiliki relasi secara strukturnya dari waktu ke waktu, untuk kasus ini berupa citra dari frame ke frame. Data yang digunakan untuk pembelajaran model berasal dari dataset Lip Reading in the Wild (LRW) yang merupakan potongan video dari pembicara stasiun berita BBC, dengan jumlah data sebanyak 500 kata dan mencapai 1000 data latih video yang berbeda-beda dalam bahasa Inggris.

Copyrights © 2021






Journal Info

Abbrev

teknik

Publisher

Subject

Engineering

Description

Jurnal Teknik ITS merupakan publikasi ilmiah berkala yang diperuntukkan bagi mahasiswa ITS yang hendak mempublikasikan hasil Tugas Akhir-nya dalam bentuk studi literatur, penelitian, dan pengembangan teknologi. Jurnal ini pertama kali terbit pada September 2012, dimana setiap tahunnya diterbitkan 1 ...