西汉置虑虒县，属太原郡。
三国属魏国，隶并州新兴郡。
北齐改属雁门郡。
隋大业三年（607）改五台县，属雁门郡。
唐、五代属代州。
宋隶代州。
金朝时属河东北路代州。
贞祐四年（1216）升五台县为台州，隶太原府。
元属冀宁路。
明洪武二年（1369）废台州，复置五台县，属太原府。
九年改属代州。
仍辖于太原府。
清雍正二年（1724）代州升为直隶州。
1912年属雁门道。
1937年抗日民主政府成立，属第一行政区。
1945年改属晋冀二专区。
1948年改属晋中一专区。
1949年属忻县专区。
1958年忻县、雁北二专署合并，属晋北专区。
1961年复属忻县专区，1967年属忻县地区。
1983年属忻州地区。
2000年属忻州市至今。