西汉元狩二年（前121）置玉门、池头、乾齐、天??4县，隶酒泉郡。
元鼎六年（前111）增冥安县，隶敦煌郡。
王莽“新”政（8）改玉门县为铺平亭，改乾齐县为测虏。
东汉建立（25）后改铺平亭为玉门县，改测虏为乾齐县，改池头县为沙头县，废天??县，增延寿县。
玉门、沙头、乾齐、延寿4县隶酒泉郡，冥安县隶敦煌郡。
三国属曹魏，沿东汉制。
始于魏黄初元年（220）。
西晋建立（265）后，初沿曹魏制，元康五年（295）增晋昌郡，玉门、延寿、骍马3县隶酒泉郡，沙头、乾齐、冥安、会稽、新乡5县隶晋昌郡。
东晋十六国（301-442）先后由前凉、前秦、后凉、西凉、北凉政权割据。
晋隆安4年（400）李暠增会稽郡，玉门、沙头、乾齐、延寿、骍马、新乡6县隶会稽郡，冥安县隶晋昌郡。
北凉郡县无常。
北魏建立（442）后增玉门郡，废骍马、沙头、乾齐3县，玉门、延寿2县隶玉门郡，冥安、新乡2县隶晋昌郡。
西魏建立（534）后置会稽县，隶常乐郡。
隋开皇三年（615）后置常乐、玉门2县，隶敦煌郡。
唐武德二年（619）置玉门军，先是玉门军、玉门县并存，后玉门县废而又复，天宝十四年（755）废玉门军，广德二年（764）土蕃占据，大中五年（851）玉门县复归唐朝，置玉门镇。
唐时玉门军（县）隶肃州（酒泉郡）。
唐末宋初（851-1036），先属张氏归义军，后属曹氏归义军，张氏归唐，曹氏附宋，间有甘州回鹘、沙州回鹘短暂割据。
宋为西夏地（1036～1277），隶瓜、肃2州。
元政权建立（1264）后隶瓜、肃2州。
明洪武九年（1376）后置赤斤蒙古所，后升为卫。
明末清初（1528-1716）荒芜。
清康熙五十七年（1716）置赤金、靖逆2卫，隶安肃道。
乾隆三十八年改为玉门县，隶安西州。
1912年，设玉门县，隶安肃道，县设治城、临城区、柳渠区、赤金区、花海区、昌马区。
十六年隶安肃行政区。
1929年，改设为五区，区下编村，其中：第一区（今玉门镇、黄闸湾乡、下西号乡）辖12村。
第二区（今赤金镇、清泉乡）辖7村。
第三区（今柳河乡）辖4村。
第四区（今昌马乡）辖7村。
第五区（今花海乡）辖4村。
1936年，隶第七行政区（是年成立酒泉公署）。
1938年，在汉口设立甘肃油矿筹备处，筹备开发玉门油矿，1941年在重庆成立甘肃油矿局。
1943年，设一镇五乡，晋昌镇、柳河乡、靖边乡、花海乡、赤金乡、昌马乡。
1946年撤销甘肃油矿局，部分人员迁至上海成立中国石油公司，部分人员迁至玉门成立甘青分公司。
中华人民共和国成立以来1949年9月25日，玉门油矿解放，实行军事管制，26日，玉门县解放。
10月8日，玉门县人民政府成立，治晋昌镇（今玉门镇），隶酒泉分区行政督察专员公署。
12月，设6区40乡，即晋昌区，8乡，含解放、得胜、和平三个街政府；靖边区，10乡；柳河区，7乡；赤金区，6乡；花海区，5乡；昌马区，4乡。
共有93个行政村，240个自然村。
1950年成立玉门矿务局，取消军事管制。
1952年12月，将赤金区划分为赤金、惠民2区。
1953年，将靖边区划分为靖东、靖西2区。
1953年10月26日，玉门油矿成立相当于丁等县矿区人民政府。
1955年10月，成立专区级玉门市，省辖市，玉门县的白杨河乡划归玉门市，玉门县改隶张掖专员公署（撤酒泉公署后酒泉属县改由张掖公署管辖），县有8区45乡，共126个初级农业合作社。
11月，撤区并乡，由45乡合并为21乡，即新民、赤峡、建设、火烧沟、大庙、屯城、东渠、城郊、下东号、西红号、塔尔湾、南阳镇、黄花营、官庄子、二道沟、红旗、蘑菇滩、上窖、下窖、西河、白杨河，另设城关镇（玉门镇城区）。
1958年2月，新建北湖、蘑菇滩、花海三个国营农场（1963年11月组建农建十一师），其后沿革变化频繁，至2024年形成国有饮马农场、黄花农场、农垦官庄企业公司、农垦建筑公司四个农垦团场。
6月，撤销新民、建设2乡，成立赤金乡；红旗乡并入二道沟乡。
全市共有高级农业合作社50个。
1958年9月，成立人民公社6个，即红旗（赤金）、红星（含原城关镇、城郊乡、下东号乡、西红号乡）、跃进（含原柳河）、火箭（花海）、卫星（靖西）、东风（含原上窖乡、下窖乡、西河乡）。
共有生产大队50个，生产队357个。
11月26日，玉门县行政建置并入玉门市（专区级），治所在老君庙，并红星、跃进、卫星为玉门镇人民公社，辖4个管理区，即城郊、靖东、靖西、柳河管理区，改东风人民公社为昌马人民公社，改红旗人民公社为赤金人民公社（辖清泉管理区），改火箭人民公社为花海人民公社，共有生产大队44个，生产队342个。
同年成立甘肃矿区。
1960年11月，成立新民镇（玉门东火车站）。
1961年5月，将4个管理区撤销，公社划小，全市设8个人民公社，即玉门镇、下西号、黄闸湾、柳河、昌马、赤金、花海、清泉；另设1镇，即玉门镇。
共有生产大队44个，生产队352个。
12月，撤销专区玉门市，玉门市、玉门石油管理局政企分设，玉门市改为县级市，隶酒泉专员公署。
1962年12月，撤销新民镇，成立东站街道办事处。
1967年4月，军队介入地方政权，玉门市成立军事管制委员会，实行军管。
1968年3月，成立玉门市革命委员会。
1978年12月，隶属酒泉地区行政公署。
1980年12月，撤销玉门市革命委员会，恢复玉门市人民政府。
1983年3月，撤销人民公社，分别更名为乡（镇）人民政府，原大队改为村民委员会。
是年，全市设1镇8乡，即玉门镇、玉门镇乡、下西号乡、黄闸湾乡、柳河乡、昌马乡、赤金乡、花海乡、清泉乡，共辖村民委员会63个，生产大队402个。
1985年6月，撤销玉门镇乡，并入玉门镇；撤销赤金乡，成立赤金镇；撤销玉门东站街道办事处，设玉门东镇。
1995年成立省疏勒河管理局（正厅级）。
1998年8月18日，成立玉门市小金湾东乡族乡，行政区域面积11。
0平方千米，辖5个村委会，30个村民小组。
1996年12月9日，清泉乡政府驻地从火烧沟迁至跃进。
2001年10月17日中石油批准玉门油田分公司向酒泉搬迁。
2002年6月15日，花海撤乡建镇。
6月25日，从花海行政区域内给小金湾东乡族乡调整11.5平方千米，调整后小金湾东乡族乡行政区域面积为22。
5平方千米。
9月，玉门市改由甘肃省直属，酒泉市代管。
2003年4月4日，民政部批准玉门市政府驻地由原址解放路迁至玉门镇。
7月15日，撤销南坪、北坪、新市区3个街道办事处，同时设立老君庙镇。
12月12日，省民政厅批复撤销玉门市清泉乡、玉门东镇，并入老君庙镇。
12月28日，甘肃省疏勒河流域管理局挂牌成立，原酒泉市疏勒河管理局并入。
2004年合村并组，村委会由69个合并为45个，村民小组由444个合并为226个，居委会由20个撤并为12个。
12月27日成立老市区管理委员会。
2005年，民政厅批复撤销昌马乡，将昌马乡并入赤金镇。
2005年12月，民政厅批复成立柳湖乡，乡政府驻岷州村，设5个行政村、21个村民小组，2006年7月18日正式挂牌。
6月，市政府批准在玉门油田酒泉生活基地新设立怡静园、兆祺园、玉兰园、芳沁园、紫荆园、疗养院等6个社区居民委员会。
2006年9月8日，玉门市政府在玉门镇的新办公大楼正式挂牌。
2007年4月批准成立七墩滩移民工作站，由柳河乡代管，设3个行政村、10个村民小组。
2007年8月，酒泉市批复设立玉门新市区街道办事处（辖南街、北街、玉关路、兰新路4个城市社区居委会）。
10月，市政府批准在玉门油田酒泉生活基地设百合园社区居委会，全市社区居委会总数达到20个。
2008年4月，民政厅批复成立独山子东乡族乡，乡政府驻金泉村，设4个行政村、28个村民小组，10月20日正式挂牌。
10月，市政府批复设承瑞园、鸿硕园、天润园社区居委会、花海镇和政社区居委会、赤金镇铁人路社区居委会，全市社区居委会达到25个。
2009年6月，民政厅批复成立六墩乡，乡政府驻柳北村，设3个行政村、10个村民小组，2010年8月正式挂牌，10月28日又将饮马农场两个疏勒河项目移民点划入，行政村增至5个，村民小组增至16个。
6月7日恢复昌马乡建制。
8月，将玉门石油管理局生活基地的10个社区居委会移交肃州区管理。
2024年5月，省民政厅批复撤销柳河乡、黄闸湾乡、下西号乡，设立柳河镇、黄闸湾镇、下西号镇。
2024年5月，省民政厅批复撤销昌马乡、柳湖乡、六墩乡，设立昌马镇、柳湖镇、六墩镇。
现辖辖玉门镇、赤金镇、花海镇、老君庙镇、柳河镇、黄闸湾镇、下西号镇、柳湖镇、昌马镇、六墩镇10个镇，小金湾东乡族乡、独山子东乡族乡2个乡和新市区街道办事处，下设59个村民委员会，290个村民小组，26个社区居民委员会，名称并沿用至今。