阜新市历史悠久，有少数朝代归中原王朝直辖，多数朝代是少数民族政权的管辖地，属边塞地区。
西周和东周春秋时期，有山戎、东胡人活动于此。
东周战国时期，燕长城横贯境内，燕长城以北仍属东胡，南部介于燕国辽西、辽东两郡之间。
秦代，秦二世二年（前208年），匈奴大败东胡，今阜新市属匈奴左地。
西汉时，属于汉王朝的刺史部，仍为匈奴左地。
汉武帝元狩四年（前119年），汉王朝打败匈奴后，属乌桓地。
三国时，今阜新北部属鲜卑，南部属魏地。
西晋时，泰始十年（274年），今阜新北部属鲜卑慕容部，南部、西南部属西晋平州昌黎郡。
太康十年（289年），今阜新全境属慕容部管辖。
东晋十六国时，今阜新先后为前燕、前秦、后燕、北燕等几个更替的政权占据。
南北朝时，今阜新为契丹辖地。
隋代，今阜新北部为契丹辖地，南部属隋王朝燕郡。
唐代，今阜新北部属契丹辖地，南部属唐河北道北部的营州。
贞观二十二年（648年），唐朝在契丹驻牧地区设置松漠都督府，今阜新北部为松漠都督府辖，南部仍属营州。
辽代初期，今阜新属上京道。
金代，今阜新南部小部分地区归东京路广宁府辖，今阜新市区、阜新蒙古族自治县北部、彰武县全境属懿州管辖。
元代，今阜新北部一部分在中书省宁昌路辖境，南部为广宁府辖地，中间大部分地区属辽阳路。
明代洪武年间，今阜新分属辽东都指挥使司和北平都指挥使司。
正统、景泰年间，今阜新地区分别属泰宁卫和福余卫。
清崇德二年（1637年），今阜新蒙古族自治县境建土默特左旗，后隶属于卓索图盟。
清顺治初年，清廷在今彰武县境地置官牧场，名杨柽木牧场，属盛京礼部。
康熙三十一年（1692年），改名为养息牧场。
光绪二十八年（1902年），在养息牧地区置彰武县。
光绪二十九年（1903年），在土默特左旗境由朝阳县析置阜新县。
实行县、旗并存，蒙汉分治体制。
民国初年，仍延续清末建置。
民国二十二年（1933年），日本侵略者侵占阜新后，日伪当局于民国二十九年（1940年）1月1日，由阜新县境划出新邱、长营子、米家窑、海州、孙家湾和今阜新镇等地置阜新市。
同时，实行废县存旗体制，撤销阜新县。
抗日战争胜利后，中国共产党领导的人民军队接管阜新市。
民国三十四年（1945年）9月7日，成立阜新市政府。
民国三十五年（1946年），国民党抢占阜新市区和阜新县、彰武县，成立国民党市、县政府。
民国三十七年（1948年）3月，阜新全境解放；4月18日，阜新市政府成立，属辽北省。
1949年1月，撤销辽北省建制，阜新划归辽西省。
1954年6月19日，撤销辽东、辽西两省建制，合并为辽宁省，阜新归属辽宁省。
1959年，彰武县、阜新蒙古族自治县划归阜新市领导。
1960年5月，义县清河门、老爷庙两个管理区划归阜新市郊区领导，成立清河门镇人民公社。
1984年，设清河门区。