夏、商、西周时属越。
春秋、战国时属越姑蔑。
秦时属会稽郡太末县。
西汉时属扬州刺史部会稽郡太末县。
东汉献帝建安二十三年（218）始置遂昌县。
孙权赤乌二年（239）分太末立曰平昌。
晋武帝太康元年（280）更名遂昌。
南朝属东扬州东阳郡或扬州东阳郡，变动频繁。
隋开皇九年（589）省。
光绪《浙江通志》卷四载：“唐武德时复置，寻省入松阳。”《旧唐书》载：”唐武德八年（625）省入松阳。
“遂昌自隋开皇九年至唐武德三十多年，据《大明一统志》、《读史方舆纪要》，皆谓属处州。
唐景云二年（711）前遂昌复，属江南道括州，开元二十一年（733）至贞元三年（787）先后属江南东道括州、江南东道缙云郡、浙江东道括州、浙江西道处州、浙江东道处州。
五代吴越国地，属处州。
宋时属两浙路处州或两浙东路处州。
元时先后属江淮行省处州路，浙江行中央省处州路，江浙行中书省安南府、处州府，浙江行中书省处州府。
明洪武九年（1376）属浙江承宣布政使司处州府，明成化八年（1472）析八九两都与金华、兰溪、龙游县部分置汤溪县。
清时先后属浙江省处州府，浙江军政府处州军政分府。
1912年属浙江省都督府。
1914年属浙江省长公署瓯海道。
1927年至1949年5月先后属浙江省第九（丽水）、第六（金华）、第三（衢州）行政督察区。
1949年5月8日遂昌县城解放，属浙江省第三专区（1949年10月改称衢州专区）。
1955年3月撤销衢州专区，遂昌改属金华专区。
1958年11月21日，松阳县并入遂昌县。
1963年5月，恢复丽水专区，遂昌改属丽水专区。
1968年5月，丽水专区改称丽水地区，遂昌县属之。
1982年1月恢复松阳县。
1982年5月1日遂昌、松阳分县办公，同属丽水地区。
2000年6月，丽水地区改称丽水市，遂昌县属之。