Protokol Message Queue Telementry Transport (MQTT) merupakan protokol komunikasi yang sangat penting dalam system Internet of Things (IoT). Dimana berbagai perangkat dapat saling terhubung dan bertukar data secara efisien. Namun rentan terhadap serangan Denial of Service (DoS) yang dapat mengganggu kehandalan dan keamanan jaringan khususnya dalam lingkungan yang melibatkan banyak perangkat yang terhubung. Tujuannya untuk mengembangkan metode deteksi serangan DoS pada protokol MQTT menggunakan algoritma machine Learning Random Forest. Metodologi penelitian mencakup beberapa tahapan penting, yaitu pengumpulan dataset lalu lintas jaringan MQTT yang mengandung serangan DoS, preprocessing data untuk membersihkan dan menyiapkan dataset, ekstraksi fitur untuk mendeteksi pola-pola serangan, dan implementasi algorima Random Forest untuk melakukan klasifikasi serangan.
Hasil pengujian yang telah dilakukan pada penelitian ini menunjukkan bahwa metode algoritma Random Forest dengan beberapa skenario pengujian yang telah dilakukan seperti pendekatan split dan k-fold memberikan performa terbaik dengan akurasi sebesar 95.09%, presisi 95.27%, recall 95.09%, dan F1-score sebesar 95.08%. Evaluasi menggunakan macro dan micro average precision, recall, dan F1-score menunjukkann bahwa model mampu mengklasifikasikan jenis trafik jaringan pada protokol MQTT secara otomatis dengan akurasi yang baik.
Kata Kunci: Denial of service (DoS), deteksi serangan, keamanan IoT, MQTT, Random Forest.