西汉时期，今旗境南部雅布赖一带属武威郡，额日布盖苏木等区域属张掖郡，其余大部区域属匈奴地。
东汉时期，今旗境南部雅布赖一带属武威郡，额日布盖苏木等区域属张掖郡，其余大部区域属鲜卑辖区。
三国时期，今旗境除南端额日布盖苏木等属张掖郡外，其余区域属河西鲜卑统辖。
西晋时期，今旗境除南端额日布盖苏木等属凉州西郡管辖、西南边部分区域属张掖郡外，大部分区域属河西鲜卑辖地。
东晋咸和二年（327年），今旗境属前凉政权管辖。
前秦建元十八年（382年），今旗境归属前秦。
后凉麟嘉七年（395年），今旗境属后凉。
北凉永安九年（409年），今旗境归北凉管辖。
北魏太和二十一年（497年），今旗境属凉州辖区。
隋大业八年（612年），今旗境南部和西南部属武威郡、张掖郡，其余大部区域属东突厥辖地。
唐总章二年（669年），今旗境属呼延都督府管辖，隶关内道单于都护府。
唐开元二十九年（741年），今旗境南部属陇右道凉州、西南少部分区域属甘州，隶属西河节度使。
元朝时期，今旗境基本属甘肃行省兀剌海路管辖范围。
明朝时期，今旗境属袄尔都司统辖。
清康熙三十六年（1697年），编设阿拉善霍硕特旗，今旗境属其西部区域。
民国时期，沿袭清制，今旗境仍属阿拉善霍硕特旗西部地。
1949年10月15日，今阿拉善右旗属阿拉善霍硕特旗人民政府管辖。
此后，今旗境先后属阿拉善霍硕特自治区、阿拉善自治区、宁夏蒙古自治区、甘肃省蒙古自治州阿拉善旗、甘肃巴音浩特自治州阿拉善旗管辖。
1956年4月3日，今旗境随阿拉善旗划归内蒙古自治区巴彦淖尔盟（今巴彦淖尔市）管辖。
1961年4月22日，经国务院批准，撤销阿拉善旗建制，设立阿拉善左旗、阿拉善右旗。
从此，阿拉善右旗成为旗县级行政区域建制单位。
阿拉善右旗人民委员会驻雅布赖。
同年5月31日，内蒙古自治区人民委员会通知，将原阿拉善旗所属雅布赖、巴音温都尔、塔木素布鲁格、巴音淖尔、乌力吉笋布尔等5个人民公社划归阿拉善右旗，为其行政区域。
1965年，阿拉善右旗人民委员会驻地由雅布赖迁驻额肯呼都格（俗称上井子）。
1968年，成立阿拉善右旗革命委员会。
1969年7月5日，根据中共中央、国务院的决定，将阿拉善右旗的巴音诺尔、塔木素格布鲁格、阿拉腾敖包、乌力吉、笋布尔等人民公社划入阿拉善左旗后一并划归宁夏回族自治区管辖；同时，将阿拉善右旗及所辖其余人民公社，划归甘肃省武威地区管辖。
1979年5月30日，中共中央、国务院决定，恢复内蒙古自治区1969年前的行政区域。
同年7月，将阿拉善右旗划回内蒙古自治区。
同年12月12日，按照国务院批准建立阿拉善盟的决定，阿拉善右旗划入阿拉善盟，将额肯呼都格改建为镇。
1980年5月，将阿拉善左旗所辖的阿拉腾敖包、笋布尔、塔木素格布鲁格3个人民公社和阿拉腾敖包牧场、塔木素格布鲁格牧场划归阿拉善右旗管辖。
1981年，阿拉善右旗革命委员会改为阿拉善右旗人民政府，并建立阿拉善右旗人大常委会。