元代的義呈里，明清的永川鄉(xiāng)十九都，民國時期的永毅鄉(xiāng)（后改靖毅鄉(xiāng)）等基層政權設于此。
1950年，屬第五區(qū)管轄。
1955年6月，改以駐地命名。
1956年5月，撤區(qū)并鄉(xiāng)，改為粗石江鄉(xiāng)。
1958年10月，改為粗石江人民公社。
1961年7月，恢復區(qū)建制后，分為粗石江、城下、黃金山、下禾洞四個人民公社，屬桃川區(qū)管轄。
1966年，“四清”運動后，撤區(qū)并社，原粗石江、黃金山、下禾洞三個公社合并為粗石江人民公社。
1984年，撤銷人民公社建制，建立鄉(xiāng)人民政府，粗石江設鎮(zhèn)，并另立清溪瑤族鄉(xiāng)。
1995年，撤鄉(xiāng)并鎮(zhèn)，由原城下鄉(xiāng)、清溪瑤族鄉(xiāng)、粗石江鎮(zhèn)合并為粗石江鎮(zhèn)。