民國初屬附城，1931年建本城鎮(zhèn)，1945年改稱碾伯鎮(zhèn)，1958年成立碾伯公社，1984年改碾伯鎮(zhèn)。
2001年，轄東門巷、東關(guān)、城中、海力公司、西門、康東新村、西關(guān)7個居委會和上寨、下寨、后營、沙壩、鄧家莊、西門、東莊、楊家門、前莊、后莊、蘇家、王家、河灣、東關(guān)、東門巷、北門一、北門二、徐家沙溝、八家、八里橋、黃家、下李家、城中、河門街24個行政村。
2006年8月，撤銷崗溝鎮(zhèn)，并入碾伯鎮(zhèn)，鎮(zhèn)政府遷至原崗溝鎮(zhèn)駐地。
2022年，樂都區(qū)撤銷碾伯鎮(zhèn)，設(shè)立碾伯街道、崗溝街道。