水清溝街道成立于1954年10月，屬滄口區(qū)。
1961年1月轉(zhuǎn)屬四方區(qū)，1965年又轉(zhuǎn)屬滄口區(qū)。
1970年4月更名水清溝管區(qū)，1976年10月恢復(fù)名稱水清溝街道，沿用至今。
1994年7月按照青島市行政區(qū)劃調(diào)整，又轉(zhuǎn)屬四方區(qū)。
2001年6月，開封路以南區(qū)域劃歸水清溝街道。
2012年12月3日，撤銷青島市市北區(qū)、四方區(qū)，設(shè)立新的青島市市北區(qū)，水清溝街道轉(zhuǎn)屬市北區(qū)。
2017年市北區(qū)街道調(diào)整，將開封路社區(qū)居委會、阜陽路社區(qū)居委會從水清溝街道析出劃入開平路街道，駐地遷永豐路8號。