春秋为弦国地。
战国属楚。
西汉置西阳县、轪县，属江夏郡。
南朝宋元嘉二十五年(448)，以西阳、轪县境内置茹由、乐安、光城（治所在今县城）三县，属弋阳郡。
南朝宋大明年间在光城置光城左郡治光城。
南朝梁天监初（502），始置光州，以光城为州治。
隋开皇十八年(598)更光城为光山县。
唐太极元年迁光州于定城，光山为首邑。
唐天宝元年（742）改乐安为仙居。
宋建炎元年（1127）撤仙居并入光山。
绍兴二十八年（1158）避金太子光瑛讳，改光山为期思。
绍兴三十一年（1161）复名光山。
唐、宋、元、明、清均属光州。
1913年属豫南道。
1914年属南汝光道。
1927年属豫南行政区。
1932年属河南省第九行政督察区。
1949年属潢川专区。
1952年属信阳专区。
1969年属信阳地区。
1998年属信阳市。