宋淳熙年間，盧氏從鄱陽遷此建村。
取名“鵬山”。
因諧音演變而成彭山。
中華人民共和國成立前屬嵩市鄉(xiāng)，中華人民共和國成立初屬二區(qū)嵩市鄉(xiāng)。
1952年改為第二區(qū)彭山鄉(xiāng)，1956年撤區(qū)并鄉(xiāng)，并入嵩市鄉(xiāng)。
合作化時(shí)由五個(gè)初級(jí)社合并成一個(gè)高級(jí)社。
1958年人民公社化，為彭山大隊(duì)，1972年大隊(duì)遷往外小源，大隊(duì)名稱沿用彭山大隊(duì)。
1984年體制改革，為彭山村民委員會(huì)。
1988年，撤銷村委會(huì)，組建村公所，為彭山村公所，作為嵩市鎮(zhèn)人民政府的派出機(jī)構(gòu)。
1993年撤銷村公所，為彭山村民委員會(huì)，名村沿用至今。