據(jù)明萬歷年間《滕縣志》、《嶧縣志》記載，以及考古發(fā)現(xiàn)，山亭區(qū)轄境，早在7300年前的新石器時代，就有人類繁衍生息。
山城、西集等鎮(zhèn)（街道）發(fā)現(xiàn)多處屬于大汶口文化、龍山文化的遺址。
夏朝時期，鳧城鄉(xiāng)、北莊鎮(zhèn)、西集鎮(zhèn)（下稱南部）境域?qū)汆媷匠墙值�、徐莊鎮(zhèn)、水泉鎮(zhèn)、城頭鎮(zhèn)、馮卯鎮(zhèn)、桑村鎮(zhèn)、店子鎮(zhèn)7處鎮(zhèn)（街道）（下稱北部）境域?qū)匐鴩?/p>
殷商時代，南部境域?qū)偈D國，殷封蔇子翦于蔇，屬大彭國。
蔇舊域在今西集附近。
北部境域歸滕國郳國。
郳國即小邾國，是滕國的附庸國。
西周時代，南部境域?qū)汆崌�，北部境域�(qū)匐?魯國附庸國)。
春秋時期，南部境域?qū)汆崌辈烤秤驅(qū)匐鴩托≯?/p>
戰(zhàn)國時期，南部境域?qū)偬m陵，北部境域?qū)匐鴩?/p>
公元前254年，山亭區(qū)境全屬楚、秦。
南部境域?qū)偈D縣，北部境域?qū)匐h。
西漢，南部境域?qū)俪䥽鴼榭h，北部境域?qū)亵攪�、沛國滕縣。
東漢，南部境域?qū)佻樼饑臍榭h、蔇縣；北部境域?qū)亵攪�，沛國、蕃縣、合鄉(xiāng)縣。
三國，南部境域?qū)贃|�？たh，北部境域?qū)贃|�？まh、合鄉(xiāng)縣。
晉朝，南部境域?qū)偬m陵郡氶縣，北部境域?qū)倥沓强まh。
南北朝，南部境域?qū)偬m陵郡氶縣，北部境域?qū)汆嬁まh。
隋開皇三年（583)罷蘭陵郡，隋開皇六年（586)改蕃縣為滕縣。
北部境域?qū)匐h。
隋開皇十六年（596)改氶縣為鄭州。
設(shè)蘭陵縣(治舊氶域)。
隋仁壽二年（602)廢鄭州，改蘭陵縣為氶縣，南部境域?qū)贇榭h、蘭陵縣。
唐朝，北部境域有的屬徐州彭城郡滕縣，有的屬沂州瑯琊郡氶縣，南部境域?qū)僖手莠樼鹂榭h。
宋朝，北部境域隸屬京東西路徐州彭城郡滕縣(后改滕陽縣)，南部境域隸屬京東東路徐州瑯琊郡氶縣。
金代，北部境域?qū)匐栔荩ê蟾碾h），南部境域隸屬嶧州。
元代，山亭區(qū)全境屬山東西路。
北部境域?qū)匐�，南部境域�(qū)賻F州。
明代，山亭區(qū)全境屬山東省濟寧府(后屬兗州府)，北部境域?qū)匐h。
南部境域?qū)賻F州(后降為嶧縣)。
清代，山亭區(qū)全境屬山東省兗州府，北部境域?qū)匐h，南部境域?qū)賻F縣。
中華民國，山亭區(qū)境內(nèi)鄉(xiāng)鎮(zhèn)先后屬滕縣、嶧縣、嶧縣抗日民主政府、滕嶧邊工委(縣委)、費滕嶧中心縣(實驗縣)、雙山縣、麓水縣、白彥縣管轄。
1949年至1983年11月，山亭區(qū)境內(nèi)鄉(xiāng)鎮(zhèn)先后屬滕縣、麓水縣、白彥縣、嶧縣、棗莊市（縣級）、棗莊市齊村區(qū)管轄。
1983年11月15日經(jīng)山東省人民政府批準，并報國務(wù)院備案，由原滕縣東部8處山區(qū)鄉(xiāng)鎮(zhèn)和原齊村區(qū)北部6處山區(qū)鄉(xiāng)鎮(zhèn)合并組成山亭區(qū)，為棗莊市市轄區(qū)。