清代，屬凌云縣管轄。
民國二十四年（1935年），劃歸鳳山縣，設為金牙鄉(xiāng)。
1950年2月，屬第四區(qū)。
1951年8月，為第四區(qū)駐地。
1957年1月，第四區(qū)改稱金牙區(qū)。
1958年8月，設金牙公社。
1961年6月，金牙公社分為金牙、杭東、巴軒3個公社。
1962年7月，3個公社合并復設金牙區(qū)。
1970年7月，金牙區(qū)復改為金牙公社。
1984年9月，金牙公社撤銷，分設金牙、更沙、中亭3個鄉(xiāng)。
2005年，金牙鄉(xiāng)改為金牙瑤族鄉(xiāng)。