七八千年前海拉尔地区就有人类繁衍生息，从事渔猎、畜牧等生产活动。
商朝时期，海拉尔地区有肃慎和东胡先民居住；西周时期，海拉尔地区有东胡先民居住，其在海拉尔河北至赫拉木图之间还拥有上百座古墓群的文化遗存。
春秋中叶（前700年左右）以无终为首的山戎（东胡）部落联盟逐渐形成，海拉尔地区属于东胡势力范围，随后在战国时期，东胡势力范围更大。
秦汉至南北朝秦时，海拉尔地区为匈奴左贤王庭辖地。
汉时，朝廷设置乌桓校尉监护东胡遗民，海拉尔地区继属辽东郡西平安地管辖，且居住有东胡人、匈奴人、鲜卑人。
随后于三国时期，海拉尔地区属于鲜卑人势力范围，受魏政权监护。
隋唐至宋元隋大业八年（612年），海拉尔区境属室韦。
[124]唐初，突厥人兴起，海拉尔地区属于突厥人势力范围。
而后在唐贞观后，辽，海拉尔地区属辽东郡西平安地上京道乌古敌烈统军司统辖。
金时（1124年），乌古、敌烈部降金，海拉尔地区属于金。
金泰和四年，海拉尔地区属岭北中书行省和林路辖。
成吉思汗九年（1214年），实行分封，海拉尔地区属大弟拙·合撒儿封地。
元泰定元年（1324年），元朝廷令诸侯王伯颜铁木儿出镇阔连海子（呼伦湖）东部地区，海拉尔地区属于其东部地区。
元至顺元年（1330年），海拉尔区境属岭北行省齐王部地。
[124]明清时期明永乐六年（1408年），明王朝在海拉尔河流域设置隶属于奴尔干都司斡难河卫的海刺儿（海拉尔）千户所（辖1200户），此也为海拉尔地区已知最早的建制。
明宣德八年（1433年），建有海刺儿千户所和寒寒寨站（今海拉尔区境内），隶属奴儿干都使司。
[124]清雍正五年（1727年），为“防俄实边”，清王朝在呼伦贝尔、齐齐哈尔、墨尔根等地，陆续设置17个边防卡伦（驿站），轮派官兵巡守。
雍正十年（1732年），海拉尔建置，清王朝从布特哈迁来索伦（鄂温克）、达尔、鄂伦春、巴尔虎骑兵3000人，驻牧海拉尔河、伊敏河两岸，编为八旗，设呼伦贝尔副都统官员镇守，总理八旗军、政，海拉尔在其统辖之内。
雍正十二年（1734年），清王朝准予黑龙江将军卓尔海奏请，在伊敏河两岸扎可丹（正阳街）建呼伦贝尔城（海拉尔城），后又在城内设呼伦贝尔副都统公署，海拉尔隶属黑龙江将军节制下的呼伦贝尔副都统公署，同时也为副都统公署所在地。
[12-13][133]乾隆八年（1743年），海拉尔属呼伦贝尔副都统衔总管。
光绪二十九年（1903年），东清铁路（中东铁路、东省铁路）全线通车，而后在海拉尔设东清铁路交涉分居（后改为海拉尔市政分局、东省特别区海拉尔乡政公所等，管辖满洲里至博客图站地段及铁路附属地）。
光绪三十三年（1907年），清王朝在东三省实行“民治”，废三省将军，设行省公署，随后在次年裁撤呼伦贝尔副都统，设呼伦贝尔兵备道，海拉尔属呼伦道署，行政隶属黑龙江行省。
宣统元年（1909年），改呼伦贝尔副都统为兵备道加参领衔，在海拉尔设呼伦厅、胪滨府、吉拉林设治局。
中华民国时期1912年，蒙旗上层分子胜福等人宣布脱离黑龙江省独立，成立“呼伦贝尔自治政府”，海拉尔除东清铁路附属地外一切权力转归自治政府。p>
1920年，设呼伦县（管辖汉族事务），海蓝袈紫厮诘兀艉诹 ?/p>
[13-14]东北沦陷时期，海拉尔隶属伪满州国兴安北省。
[133]1932年，伪满洲里国成立后将兴安岭以北、以西地区划为兴安北分省（1934年改省），撤销了呼伦贝尔副都统衙门和呼伦县。
海拉尔区为兴安北分省省会驻地，隶属兴安北分省。
1936年，根据伪满洲国公布的《市政管理管制》，组建海拉尔市政管理处，将海拉尔乡政公所辖新市街（原铁路附属地）和海拉尔办事处（原呼伦贝尔城）所辖一切权力合并，统归海拉尔市政管理处。
1940年5月，依据伪满州国第89号令，设市公署建立海拉尔市，行政管辖隶属伪兴安北省。
1945年10月，日本投降后的海拉尔市公署由成立的呼伦贝尔自治政府领导。
1949年4月，呼伦贝尔盟同纳文慕仁盟合并，海拉尔市隶属呼伦贝尔纳文慕仁盟，为呼纳盟政府所在地。
中华人民共和国1953年4月，撤销呼纳盟建制，成立内蒙古自治区东部行政公署。
海拉尔市被划为内蒙古自治区直辖市，由内蒙古自治区东部行政公署代管。
次年4月，撤销东部区行政公署，成立呼伦贝尔盟人民政府，海拉尔市隶属呼伦贝尔盟人民政府，同时为盟人民政府驻地。
1968年1月，海拉尔市人民委员会改为“海拉尔市革命委员会”，次年8月，海拉尔市随呼伦贝尔盟划入黑龙江省。
1979年7月，“海拉尔市革委会”随“呼伦贝尔盟革委会”由“黑龙江省革委会”划回“内蒙古自治区革委会”，隶属“呼伦贝尔盟革委会”。
1980年8月，恢复海拉尔市人民政府建制，其隶属关系不变，随后在2002年1月撤市设区。