唐代，倉山地區(qū)隸屬于閩縣及侯官縣，宋代到明代中期分屬于閩縣和懷安縣。
明萬歷八年（1580年）懷安縣并入侯官縣，倉山地區(qū)分屬閩縣和侯官縣。
境內(nèi)以龍峰山和望北臺為界，以東屬閩縣，以西屬侯官縣。
1913年閩縣與侯官縣合并成立閩候縣，倉山地區(qū)屬閩候縣。
1917年福州省會警察廳成立，倉山地區(qū)行政上屬閩候縣和省會警察廳第五署雙重管轄。
1945年10月福州市國民政府成立，同時成立倉山區(qū)公所。
1950年1月，林森縣（閩侯縣）一區(qū)的白湖、雙湖2個鄉(xiāng)劃入倉山區(qū)，劃入面積10多平方千米（同年9月又劃出）。
5月設(shè)水上區(qū)，轄閩江洪山橋到魁岐水域，面積7平方千米。
1955年3月，市郊蓋山的美墩、中墩、程厝邊、長安、塔仔里、洋洽、新成里、白鷺嶺劃入倉山區(qū)，面積3平方千米。
同年5月，水上區(qū)與倉山區(qū)合并。
1960年3月，市郊蓋山公社劃入倉山區(qū)，面積30多平方千米，次年6月又劃出倉山區(qū)。
1968年9月，倉山區(qū)因“文化大革命”更名為朝陽區(qū)，同時成立革命委員會。
1970年2月郊區(qū)朝陽（蓋山）公社、建新公社、市紅星農(nóng)場、閩候縣城門公社劃入朝陽區(qū)（倉山區(qū)），總面積增至112平方千米，包括整個南臺島，1975年5月又劃出朝陽區(qū)（倉山區(qū)）。
1978年4月，朝陽區(qū)復(fù)名倉山區(qū)。
全區(qū)有4個街道辦事外及水上工作辦事處，下轄40個居委會。
1986年11月成立三叉街街道，1988年5月撤水上工作辦事處，成立對湖街道，1996年1月，晉安區(qū)的倉山、蓋山、城門、建新、螺洲5個鎮(zhèn)劃歸倉山區(qū)，轄地?cái)U(kuò)至整個南臺島，面積擴(kuò)至142平方千米。
2002年6月成立東升街道，2002年7月從建新鎮(zhèn)劃出盧濱、后曹、潘邊、石邊、新頤、上雁、葛嶼、閩江、劉宅9個村，從倉山鎮(zhèn)劃出燎原村，從上渡街道劃出橫江居委會成立金山街道。
2014年，倉山區(qū)轄對湖、上渡、倉前、三叉街、下渡、臨江、東升、金山共8個街道，建新、蓋山、螺洲、城門、倉山共5個鎮(zhèn)。