长治市古为“上党”、“潞州”地域，殷商时为黎国。
春秋时，曾为潞子婴儿国，后并于晋国。
战国时，属韩国。
周显王二十一年（前348），韩首置上党郡，后归赵国。
秦王政二十六年（前221），秦统一六国后，实行郡县制，分天下为36郡，上党郡即为其中之一。
东汉沿用秦制，上党郡属并州。
建安十八年（213），上党郡入冀州。
三国魏黄初元年（220），上党郡复归并州。
西晋永兴元年（304），上党郡属前赵，西晋末年归后赵。
后上党郡归西燕。
东晋太和五年（370），苻坚灭燕，上党郡入后秦。
太元十一年（386年），慕容永称帝于长子，上党郡归之。
北周建德七年（578），分上党郡置潞州（是为潞州建置之始），上党郡属焉。
州得名，因潞子之国。
隋开皇三年（583），上党郡废，移潞州于壶关。
大业元年（605），改潞州为上党郡，隶冀州。
唐武德年间，改上党郡为潞州，并置都督府。
开元十七年（729），以玄宗历试尝在潞洲，置大都督府，并置上党郡。
开元二十一年（733），潞州、上党郡属河东道。
大历元年（766），置昭义军。
五代后唐庄宗初，置潞州。
后梁末帝时，改为匡义军，岁余，后唐灭后梁，改为安义军。
后晋时期，复为昭义军；后汉、后周因之。
北宋太平兴国初，改昭义军为昭德军，后为潞州。
元丰年间为隆德府、大都督府、上党郡、昭义军，隶河东路。
建中靖国元年（1101），昭义军改为威胜军。
崇宁三年（1104），复为隆德府，后为昭德军。
金时期，潞州隶河东南路，天会六年（1128），置潞南辽沁观察处。
元代潞州属晋宁路。
初为隆德府（行都元帅府事）。
太宗三年（1231），复为潞州，隶平阳路。
明洪武元年（1368），沿用元制。
初，潞州隶行中书省布政使司；洪武二年（1369），直隶山西行中书省；九年（1376），直隶山西布政使司。
嘉靖八年（1529）二月，升潞州为潞安府，设潞安兵备，分巡冀南道，治潞安。
清代沿用明制，潞安府治今长治城。
1912年，实行省、道、县3级制，废潞安府，原潞安府所领各县均属冀宁道，4月，于今长治市置潞泽辽沁镇守使署。
1916年改为潞泽辽沁营务处。
1924年，撤销营务处。
1930年，撤销冀宁道，各县直隶山西省。
1937年，山西省政府（阎锡山政权）置第三、第五专区。
抗日战争时期，中国共产党以太行、太岳山为依托，建立了抗日根据地。
1945年10月8日，长治解放，以原长治县为中心，设立长治市，隶属晋冀鲁豫边区太行行署三专区，长治市下设三区；当月中旬，长治市（县级）建立，隶太行四专区。
1946年6月，长治市升为地级市，直隶太行区。
1949年9月，太行三专区与太岳以专区合并为长治专区，辖长治市，直隶山西省，专署驻长治城，管辖范围不变。
1950年3月，长治市改为长治工矿区（县级），区政府驻上南街炉坊巷，并从长治、潞城、襄垣、屯留等县划入72个村，分南北两片，南为城郊区，直属工矿区领导，北为黄碾办事处。
工矿区从长治县划入的有19个村；黄碾办事处从潞城划入的有11个村，襄垣划入的有4个村，屯留划入的有3个村。
1952年3月，工矿区复为长治市，并指次丶妒校沙ぶ巫ㄇ堋?/p>
1953年7月1日，长治市改由山西省直辖。
1958年，长治专区改为晋东南专区，代管长治市，同年9月，先后将潞安县和屯长县大部分并入长治市，下设2个联社(屯留联社、长子联社)和9个人民公社（荫城、苏店、潞城、黄碾、城郊、淮海、惠丰、长钢、潞矿）。
1959年6月，屯长县划出，区划调整为2个联社（韩店联社、黄碾联社）和2个人民公社（工农联盟、海丰）。
1962年，恢复原长治县和潞城县。
1945年到1998年的50多年间，曾先后经历了作为山西省辖市由长治专区代管和晋东南行署隶属等多次行政区划的调整变动。
2024年6月19日，国务院批准山西调整长治市部分行政区划：撤销城区、郊区合并设立长治市潞州区；撤销长治县，设立长治市上党区；撤销屯留县，设立长治市屯留区；撤销潞城市，设立长治市潞城区。
同年11月23日，长治市四区正式挂牌成立。