Dengan pesatnya pertumbuhan transaksi online, keamanan dalam transaksi keuangan menjadi semakin penting, mengingat meningkatnya risiko penipuan yang canggih. Penelitian ini berfokus pada penggunaan algoritma machine learning, khususnya Random Forest, untuk mendeteksi penipuan dalam transaksi daring. Random Forest merupakan metode ensemble learning yang efektif dalam menangani data besar dan kompleks, serta mampu mengidentifikasi pola penipuan yang sulit terdeteksi oleh metode konvensional. Penelitian ini menerapkan teknik oversampling SMOTE untuk mengatasi ketidakseimbangan data dan meningkatkan performa model. Hasil evaluasi menunjukkan bahwa model Random Forest mencapai akurasi tinggi sebesar 97.77% pada data pelatihan dan 97.04% pada data pengujian. Precision pada data pelatihan adalah 65.85% dan menurun menjadi 52.89% pada data pengujian, sementara recall tetap tinggi dengan nilai 86.90% pada data pengujian. Teknik SMOTE memberikan hasil yang lebih seimbang dengan precision 65.85%, recall 86.90%, dan F1 Score 74.92% pada data pengujian, dibandingkan dengan undersampling yang menghasilkan precision lebih rendah dan recall lebih tinggi. Temuan ini menunjukkan bahwa oversampling SMOTE secara signifikan meningkatkan stabilitas dan akurasi deteksi penipuan. Hasil ini menyarankan bahwa teknik machine learning seperti Random Forest, dengan penerapan metode sampling yang tepat, dapat secara efektif meningkatkan kemampuan sistem dalam mendeteksi dan mencegah penipuan dalam transaksi online.