先秦时境域为西羌地；秦时为乌孙地；西汉初，为匈奴昆邪王地；元狩二年（前121年），置酒泉郡，属酒泉郡天依县管辖。
东汉时为延寿县所管。
三国时属曹魏，亦为酒泉辖地。
西晋时为前凉张轨所有，继为西凉李所管，后归于北凉沮渠蒙逊。
后魏置酒泉军、复为郡，属其辖地。
隋初废郡，分置肃州，属福禄县。
唐置酒泉郡（后改为肃州），属其所辖酒泉县。
宋为回鹘所据，后属西夏。
元属肃州路；明洪武五年（1372年），大将宋国公冯胜平定河西，首筑嘉峪关土城，以御外族侵略。
二十七年（1394年），设嘉峪关所，属肃州卫。
清置肃州直隶州，嘉峪关亦归其管辖；嘉庆至同治年间，在嘉峪关曾设巡检。
民国元年（1912年）后，为酒泉县辖地。
1950年，成立嘉峪关乡，1951年，改嘉峪关乡为嘉峪关区。
1954年，改嘉峪关区为第二区，同年撤区并乡，设嘉峪关乡。
1958年，成立嘉峪关公社。
1965年，从酒泉县划入嘉峪关区管辖。
1983年撤销公社，复为嘉峪关乡。
2003年9月，撤乡建峪泉镇。
2010年10月，安远沟村划出。