春秋為弦國地。
戰(zhàn)國屬楚。
西漢置西陽縣、轪縣，屬江夏郡。
南朝宋元嘉二十五年(448)，以西陽、轪縣境內(nèi)置茹由、樂安、光城（治所在今縣城）三縣，屬弋陽郡。
南朝宋大明年間在光城置光城左郡治光城。
南朝梁天監(jiān)初（502），始置光州，以光城為州治。
隋開皇十八年(598)更光城為光山縣。
唐太極元年遷光州于定城，光山為首邑。
唐天寶元年（742）改樂安為仙居。
宋建炎元年（1127）撤仙居并入光山。
紹興二十八年（1158）避金太子光瑛諱，改光山為期思。
紹興三十一年（1161）復(fù)名光山。
唐、宋、元、明、清均屬光州。
1913年屬豫南道。
1914年屬南汝光道。
1927年屬豫南行政區(qū)。
1932年屬河南省第九行政督察區(qū)。
1949年屬潢川專區(qū)。
1952年屬信陽專區(qū)。
1969年屬信陽地區(qū)。
1998年屬信陽市。