“开鲁”，为开垦、开发东扎鲁特旗、西扎鲁特旗和阿鲁科尔沁旗“三鲁”一片地区之意，故得名。
春秋战国，为东胡地。
汉朝，初为鲜卑地辽东郡西北境，末为燕北地。
隋朝，属范阳节度使辖境。
唐朝，属松漠督都府。
辽朝，属上京道临潢府。
金朝，行政属北京路临潢府，防务属临潢路。
元朝，先为辽王封地，后划归全宁路辖境。
明朝，属兀良哈三卫泰宁卫辖境。
清光绪三十一年（1908年），阿鲁科尔沁旗、东扎鲁特旗、西扎鲁特旗共报效荒地18000顷。
光绪三十三年八月（1907年9月），在三旗报效荒地塔甸子地方设立“三旗恳务局”。
光绪三十四年（1908年），设开鲁县，隶属于热河道都统管内赤峰直隶州。
民国二年（1913年），属热河道。
民国三年（1914年），属绥远、热河、察哈尔特别行政区热河道。
民国十七年（1928年），属热河行省。
民国二十二年（1933年）3月，开鲁县划入伪满洲国版图。
5月，开鲁县隶属伪兴安西分省。
民国二十三年（1934年）12月，开鲁县属兴安西省。
民国三十三年（1943年），开鲁县隶属伪兴安总省。
民国三十四年（1945年）8月，伪满洲国垮台。
年底，开鲁县由伪街长张念祖为首的伪政权地方治安维持会统治（群众称之为二满洲）。
民国三十五年（1946年）1月，开鲁属通鲁工委。
2月，属于通辽中心县委。
4月，属哲里木省。
5月，属于辽吉区行政公署哲里木盟。
民国三十六年（1947年），隶属于辽北省哲里木盟。
民国三十八年（1949年），哲里木盟由辽北省划归内蒙古自治区，开鲁县隶属内蒙古自治区哲里木盟。
1953年，开鲁县隶属于内蒙古自治区东部区行政公署。
1954年，撤销东部地区行政公署恢复哲里木盟，开鲁县隶属于哲里木盟。
1969年，开鲁县同哲里木盟划归吉林省。
1979年，开鲁县同哲里木盟划回内蒙古自治区。
1999年，撤销哲里木盟改设地级通辽市，开鲁县由通辽市管辖。