Herdman bukan sosok besar di sepak bola dunia. Ia sudah memulai karier kepelatihannya sejak dini.
Saat usianya menginjak 28 tahun, Herdman sudah memulai karier kepelatihan sebagai pelatih tim kelompok umur Selandia Baru. Kemudian, ia dipercaya untuk menangani timnas putri Selandia Baru periode 2006-2011.
Bersama timnas putri Selandia Baru, Herdman berhasil membawa timnya lolos ke Piala Dunia Wanita FIFA edisi 2007 dan 2011. Lalu mengantar Selandia Baru lolos ke Olimpiade Beijing 2008.