Sistem keamanan pada mesin Anjungan Tunai Mandiri (ATM) masih rentan terhadap teknik skimming, dikarenakan pada mesin ATM masih menggunakan magnetic card dan Personal Identifcation Number (PIN) yang bersifat statis. Teknik skimming masih memungkinkan terjadinya penyalinan data pribadi melalui kartu ATM dan sudah banyak kasus hilangnya uang nasabah secara misterius.
Penilitian ini melakukan perancangan sebuah sistem yang digunakan untuk menambah keamanan pada mesin ATM. Sistem ini menggantikan magnetic card menjadi smart card dan mengubah sifat PIN yang awalnya statis menjadi dinamis menggunakan teknologi One-Time Passcode (OTP) yang akan diintegrasikan dengan Raspberry Pi, serta smart card dan jaringan internet sebagai penghubung antara server dan client. PIN OTP akan menggunakan algoritma pembangkit bilangan acak RNG untuk menghasilkan 6 digit PIN sekali pakai. Algoritma yang digunakan diantaranya Math.random, PRNG dan Blum-Blum Shub. Nasabah dapat menerima OTP secara realtime yang dikirimkan melalui Internet Banking atau website sederhana.
Dari hasil pengukuran QoS terhadap sistem yang digunakan, ketiga pembangkit bilangan acak pada PRNG memiliki performa yang lebih baik. Terdapat perbedaan sebesar 0,0984 ms pada transmission delay dan 1,811 bit/s pada throughput. Pada parameter performansi algoritma pembangkit Blum-Blum Shub berdasarkan stokastik memiliki keseimbangan yang ideal dibandingkan Math.Random dan PRNG. Perhitungan normalized cross correlation pada algoritma Blum-Blum Shub memiliki nilai 0,0993 lebih rendah terhadap PRNG dan 0,0873 terhadap Math.Random, sehingga algoritma Blum-Blum Shub lebih layak digunakan. Sistem prototipe mesin ATM dapat terhubung dengan server yang dibuat dalam membangkitkan OTP dan untuk autentikasi nasabah karena mendapatkan nilai packet loss sebesar 0%. Pada pengukuran MOS dalam parameter kecepatan, keamanan dan penggunaan memiliki rata-rata pemilihan 4,0 yang berarti masuk dalam kategori “bagus”.