Identitas Kependudukan Digital merupakan aplikasi pemerintahan yang dibuat untuk mempermudah masyarakat dalam mengurus berkas kewarganegaraan secara daring. Banyak ulasan pengguna mencerminkan beragam sentimen terkait kepuasan dan kekecewaan masyarakat terhadap aplikasi tersebut. Namun Google Play Store hanya menampilkan rating aplikasi dan ulasan mentah sehingga pemerintah sulit memahami tingkat kepuasan dan permasalahan yang dialami pengguna. Penelitian ini bertujuan mengimplementasikan model Bidirectional Encoder Representation from Transformers (BERT) dengan fine-tuning dan menganalisis pengaruh kualitas input data terhadap kinerja pada model tersebut. Pada penelitian ini ditemukan bahwa model IndoBERT fine-tuned tanpa melakukan praproses stopword removal dan stemming memiliki performa terbaik dengan nilai akurasi, presisi, recall, dan F1-score sebesar 98%. Temuan ini menunjukkan bahwa tahapan praproses mempengaruhi performa akhir model. Penelitian ini diharapkan dapat membantu pemerintah dalam memahami opini masyarakat secara lebih komprehensif dalam mengembangkan aplikasi menjadi lebih baik.