Kebutuhan kapasitas untuk komunikasi jarak jauh yang terus meningkat, sehingga difokuskan untuk memaksimalkan kapasitas sistem dan meminimalkan penurunan kinerja yang disebabkan oleh gangguan transmisi. Untuk memaksimalkan kapasitas link transmisi optik tersebut, harus memperhatikan beberapa parameter. Salah satu yang paling penting adalah format modulasi sinyal yang merupakan kunci utama dalam menentukan kualitas transmisi dan efisiensi spektrum.
Modulator optik berfungsi untuk menumpangkan sinyal-sinyal informasi berupa pulsa-pulsa cahaya ke dalam sinyal pembawa (carrier) agar dapat ditransmisikan ke tujuan. Modulator yang kini sering digunakan adalah modulator Mach-Zehnder. Pada penelitian ini terdapat tiga skenario, dengan skenario pertama variabel input yang diubah adalah format modulasi. Pada skenario kedua, variabel yang diubah adalah jumlah bit rate. Pada skenario ketiga, variabel yang diubah adalah daya masukan untuk mendapatkan nilai daya transmit yang seoptimal mungkin pada masing-masing format modulasi.
Hasil simulasi menunjukkan format modulasi dengan kinerja yang paling baik adalah NRZ dengan BER yang terendah yaitu 10-39 dan Q factor tertinggi sebesar 12.88, serta membutuhkan daya input yang relatif rendah yaitu 0 dBm. Sedangkan format modulasi RZ-DQPSK menunjukkan kinerja yang paling buruk dengan BER tertinggi sebesar 10-3 dan Q factor terendah sebesar 2.519, dimana tidak memenuhi syarat transmisi optik. Sedangkan saat dilakukan perubahan bit rate, nilai Q factor tertinggi dihasilkan dari link optik dengan format modulasi NRZ pada bit rate 20 Gbps yaitu 22.206. Nilai Q factor terendah dihasilkan dari link optik dengan format modulasi RZ-DQPSK pada bit rate 40 Gbps yaitu 0. Sedangkan perubahan bentuk pulsa pada domain frekuensi terlihat bahwa semakin tinggi bit rate, maka lebar pulsa semakin sempit. Pada DWDM juga efek FWM muncul, dari 16 panjang gelombang, muncul panjang gelombang lain sebanyak 52 panjang gelombang.
Kata kunci : Soliton, Modulator Mach Zehnder, Format Modulasi, Q factor, BER