秦属桂林郡地。
汉初，属南越国地。
元鼎六年（前111）置桂林县，治今大樟乡一带，属郁林郡，为今县境最早的行政建制。
三国吴凤凰三年（274）改属桂林郡。
东晋大兴元年（318）改属晋兴郡。
隋开皇十一年（591），桂林县迁治今象州县妙皇乡，此后今县境属始安郡辖地。
唐及南汉，今县境介于象、蒙、思唐等州之间。
宋介于桂、柳、象、浔、昭等州之间。
元介于静江路、平乐府、浔州府和象州之间。
明清介于柳州府、浔州府、平乐府之间。
民国初，今县地分属修仁、蒙山、平南、桂平、武宣、象6县。
1942年设金秀设治局，治今金秀镇六拉村金秀自然村，属广西省。
1947年金秀设治局撤销，原属金秀设治局的各乡复归属各县。
1949年中华人民共和国成立后，今县地仍分属修仁、蒙山、平南、桂平、武宣、象6县。
1951年修仁县并入荔浦县，今县地分属荔浦、蒙山、平南、桂平、武宣、象6县。
1953年4月2日，设大瑶山瑶族自治区（县级），属平乐专区。
1954年增辖原石龙县中平区大樟、互助2乡。
1955年9月改为大瑶山瑶族自治县，并分别划桐木区、头排区归石龙县、鹿寨县。
1957年划大樟区木山乡归桂平县。
1958年7月改属柳州专区。
1966年4月改为金秀瑶族自治县，属柳州专区。
1971年改属柳州地区。
1984年8月增辖原属象州县的桐木公社和鹿寨县的头排区。
2002年属来宾市。