Simon Grayson mengawali karier sepak bola sebagai pemain Leeds United pada tahun 1988. Ia bermain di sana selama 4 musim sebelum pindah ke Leicester City.
Simon Grayson juga pernah bermain untuk Aston Villa, Blackburn Rovers, Sheffield Wednesday, Stockport, Notts County, Bradford, dan Blackpool.
Simon Grayson pensiun pada 1 Januari 2006 di Blackpool dan langsung mengawali karier kepelatihannya di klub tersebut.
Di antara beberapa tim itu, Simon tercatat paling lama membela Leicester City (5 musim) dan Leeds United (4 musim). Ia tercatat menjadi legenda di dua tim itu.
Simon Grayson membantu Leicester City dua kali promosi ke Premier League pada 1994 dan 1996, serta mempersembahkan trofi Piala Liga Inggris (League Cup) 1997.
Di Leeds, namanya lebih harum ketika menjadi manajer di mana Simon membawa The Whites (Si Putih) promosi dari League One ke Championship pada 2010.
Simon Grayson juga menjadi sosok di balik kemenangan bersejarah Leeds United di Old Trafford, markas Manchester United, di ajang Piala FA 2010. Hasil manis itu mengakhiri puasa kemenangan Leeds di Old Trafford selama 30 tahun.