自春秋战国至南北朝先后为匈奴、乌桓、鲜卑等少数民族游牧地。
北魏为怀荒镇防地。
隋为涿郡、雁门郡北境。
唐为突厥地，属单于都督府。
辽时属西京道奉圣州。
金属西京路抚州。
元属中书省兴和路宝昌州。
明初属京师大宁都司兴和守御千户所，后为鞑靼诸部落驻牧地。
清初袭明制，雍正二年（1724）属直隶省口北道张家口理事同知厅，为镶黄旗牧地。
民国初期属察哈尔特别区兴和道，为张北、商都二县地。
1922年4月，由张北、商都两县置康保招垦设治局。
1925年3月，改康保招垦设治局为康保县，仍属于察哈尔特别区。
1928年9月察哈尔特别区撤销，设立察哈尔省，康保县属于张家口专区。
1937年10月28日，日、伪军成立“蒙古联盟自治政府”，管辖察哈尔盟的康保县。
1945年8月，康保县第一次解放，建立康保县，属冀察区十九专区。
1948年12月，康保第二次解放。
1949年1月成立察哈尔省，撤销商化康联合县，恢复康保县建制，属察哈尔省察北专区。
1952年11月，撤销察哈尔省，原察南、察北专区合并为张家口专区，康保县属之，划归河北省。
1958年康保县并入张北县。
1961年5月，张家口市与张家口专区分设，从张北县以原辖区划出康保县，恢复县制，仍属张家口专区。
1967年张家口专区改成张家口地区，辖康保县。
1993年6月撤销张家口地区，康保县划归张家口市管辖。