Sutarman sendiri lahir di Sukoharjo, Jawa Tengah, pada 5 Oktober 1957. Sebelum menjadi Kapolri, Sutarman adalah Kepala Badan Reserse Kriminal pengganti Ito Sumardi, yang pensiun pada Juni 2011.
Kariernya di Kepolisian dimulai pada 1982, sebagai Kepala Staf Lalu Lintas Kepolisian Resor Bandung. Tak lama di situ, Sutarman naik menjadi Kepala Kepolisian Sektor Dayeuh, Bandung.
Karier lulusan Akademi Kepolisian tahun 1981 ini melejit setelah menjadi ajudan Presiden Abdurrahman Wahid pada 2000. Memikul pangkat perwira menengah di pundaknya, pada 2004 Sutarman dipercaya menjadi Kepala Kepolisian Wilayah Kota Besar Surabaya.
Kemudian berturut-turut ia menjadi Kapolda Kepulauan Riau, Kepala Sekolah Calon Perwira, Kapolda Jawa Barat, Kapolda Metro Jaya, sampai akhirnya menjadi Kepala Badan Reserse Kriminal Polri sejak 6 Juli 2011.
Meski kariernya lengkap, jalan Sutarman juga penuh sandungan. Ia sempat dikabarkan menentang bahkan menghambat penyidikan kasus simulator kemudi yang melibatkan mantan Kepala Korps Lalu Lintas Mabes Polri Inspektur Jenderal Djoko Susilo. Ia juga dituding sebagai dalang kriminalisasi penyidik KPK, Novel Baswedan.