夏帝孔甲时为刘累邑。
西周初，周公封此地为鲁。
后今境东南属应侯国。
春秋初属郑，后属楚。
战国属楚。
秦属颍川郡、三川郡。
西汉置鲁阳县，属南阳郡。
东汉因之。
三国属魏。
晋属南阳国。
南北朝宋永初属南阳郡。
北魏太和十一年（487）改山北县。
太和十八年（494）为荆州治。
十九年（495）属广州。
二十二年（498）复置鲁阳郡。
永安年间属广州。
西魏属鲁州。
北周改置鲁山县。
隋称鲁县。
隋炀帝末年名鲁山县，属襄城郡。
唐武德四年（621）属鲁州。
贞观元年(627）属汝州。
八年（635）属河南道汝州。
五代因之。
宋属京西路汝州。
金属南京路汝州。
元属南阳府汝州。
明属河南布政司汝州。
清属河南省汝州。
1912年属豫西道。
1914年属河洛道。
1927年道废，直属河南省。
1932年属河南省第五行政督察区。
1948年属豫西行政区。
1949年属许昌专区。
1969年属许昌地区。
1983年属平顶山市。