秦代属上谷郡、代郡，西北为匈奴地。
汉代属上谷郡（治今怀来县）、代郡，北部为乌桓、鲜卑地。
三国魏、晋因之。
隋代属涿郡、雁门郡。
唐代属妫州(后改武州，治今宣化区)、蔚州，北部为突厥地。
辽改属归化州、奉圣州、蔚州。
金属宣德州(归化州改，仍治今宣化区)、桓州、蔚州、奉圣州。
元代置宣德府(治今宣化区)，西北部置兴隆路(治今张北县)。
明代置宣府左、右、前卫，后称宣府镇(均治今宣化区)，北部属开平卫、大同府。
清康熙三十二年（1693），宣府镇改为宣化府。
清雍正二年（1724），设张家口厅，管理口外蒙旗事务。
清宣统元年（1909），京张铁路通车，张家口的商业及市政建设由桥西发展到桥东并形成较大商埠。
1914年，北洋政府成立察哈尔特别区，都统府侨治张家口。
1928年，国民党政府设察哈尔省，张家口为省府驻地。
1937年，日本帝国主义侵占张家口，继而扶持汉奸于品卿等在宣化成立伪察南自治政府。
1939年，日伪置张家口特别市，属伪蒙疆自治政府。
治所即今河北张家口市。
后废。
1945年8月，张家口解放，复置张家口市，属察哈尔省。
1946年8月，复置张家口市，为晋察冀边区政府驻地。
1948年，张家口第二次解放，恢复张家口市。
1952年，设立张家口专区，辖原察哈尔省划归河北省的张北、赤城等16个县。
1955年，撤销宣化市，其行政区域并入张家口市，张家口市第一区更名为桥东区；第二区、第三区合并为桥西区；第四区更名为七里茶坊区；原宣化市庞家堡矿区更名为张家口市庞家堡区；原宣化市下花园矿区更名为张家口市下花园区。
1958年，张家口市改为县级市，划归张家口专区。
1959年，升为地级市，由省直辖。
1961年，恢复张家口专区的建制，张家口市改为县级市，由张家口专区领导。
1963年撤销宣化市，其行政区域并入张家口市。
1983年，张家口市升为地级市，改由省直辖，张家口地区的宣化县划归张家口市。
1989年，撤销张家口市茶坊区和庞家堡区，将原茶坊区分别划归张家口市桥东区、桥西区管辖，将原庞家堡区划归宣化县管辖。
1993年，张家口地、市合并，实行市管县体制。
下辖13个县和4个区。
2024年1月，撤销张家口市宣化区、宣化县，成立新的宣化区；撤销万全县，成立万全区。
撤销崇礼县，成立崇礼区；将原宣化县的大仓盖镇、东望山乡划归张家口市桥东区管辖，将原宣化县的沙岭子镇、姚家房镇划归张家口市桥西区管辖。