春秋、战国属楚。
秦末置县，属衡山郡。
汉置鄳县，属江夏郡。
三国、晋同汉制。
宋孝建三年（456）分鄳县地增置宝城县，同属义阳郡。
南齐改宝城县为保城县，与鄳县均属北义阳郡。
梁武帝(512)合鄳县、保城县置汝南郡。
北魏分置保城县、鄳县、东随县，保城县，鄳县属齐安郡，东随县属宋安郡。
北齐合3县置高安县，属齐安郡。
隋开皇三年（583）高安县并入钟山县。
九年（589）析钟山县置礼山县，属义阳郡。
十六年（596）又析钟山县置罗山县，属义阳郡。
大业末年（618）礼山县废。
唐武德四年（621）于县境置南罗州，领罗山县。
八年（625）南罗州废，罗山县属申州。
五代同唐制。
宋开宝九年（976）罗山县废。
雍熙三年（986）复置罗山县，属信阳军。
元至元二十年（1283）徙信阳州治于罗山县城，县治迁往西南，称罗山新县，属汝宁府信阳州。
明洪武元年（1368）县治复旧，仍称罗山县，属信阳州。
七年（1374）改属汝宁府。
成化十年（1475）复属信阳州。
清属汝宁府。
1913年废府、州，罗山县属豫南道。
1914年属汝阳道。
1927年废道，直属河南省。
1928年属第七（信阳）行政区。
1932年属河南省第九行政督察区。
1949年属潢川专区。
1952年属信阳专区。
1969年属信阳地区。
1998年信阳地区改为信阳市，属之。