秦时为代郡北境。
西汉属代郡且如县。
东汉时，先后属匈奴、鲜卑。
曹魏至西晋，属拓跋鲜卑。
十六国时期，属北魏。
北朝时期，属柔玄镇地。
北魏灭亡后，先属东魏幽州，后属北齐和北周。
隋朝属雁门郡灵丘县。
唐朝县境为突厥游牧地，属单于都护府之桑干都督府管辖。
五代十国时期，一度属后晋，后为契丹地。
辽属西京道奉圣州。
金属西京路宣德州，继属抚州柔远县。
元属中书省兴和路咸宁县。
明朝，初属京师大宁都司，后属万全都指挥使司、宣府兴和守御千户所辖地。
永乐二十年（1422）后，为蒙古察哈尔部游牧地。
清代，初属正黄等旗牧厂和正黄东半旗，后属直隶省口北道张家口厅。
民国初属察哈尔特别区之兴和道。
1928年废道撤区建察哈尔省，今县境属之。
1934年5月至1945年8月，属尚义设治局。
1936年被日伪侵占改设治局为尚义县。
1945年9月，属察哈尔省察北专区尚义县。
1952年11月，察哈尔省撤销，属河北省张家口专区尚义县。
1958年10月，撤销尚义县，并入张北县。
1960年2月，划出旧商都、尚义辖地，成立商都县。
1961年恢复尚义县，属张家口专区。
1967年张家口专区改称张家口地区，尚义县属之。
1993年7月张家口地区并入张家口市，尚义县属张家口市所辖。