1982年至1990年在中国人民银行总行综合计划司工作，历任副处长、处长。

1990年至1993年历任中国人民银行计划资金司副司长、司长。

1994年任中国人民银行行长助理、1996年4月任中国人民银行副行长。在央行工作期间，尚福林注意钻研学习新的经济理论，通过进修深造，获得了博士学位，并成为中国人民银行货币政策委员会的一员。

1997年7月任中国货币政策委员会第一届委员。

2000年2月任中国农业银行行长。

2002年12月27日，接替周小川出任证监会主席、党委书记。

2002年11月在中共中央第十六次全国代表大会上当选为中央候补委员。

2006年获得CCTV中国年度经济人物获得者。获奖理由他望闻问切，对多年的制度痼疾明察秋毫。他大开大阖，开出的处方具有外科手术般的精确。股权分置改革使中国证券市场在2006年发生历史性变革。

2007年10月21日在中共十七大上当选中央委员会委员。