东汉灵帝中平年（184），汝南（今河南）上蔡百姓迁到上高，始建上蔡县，为上高县之始，距今有1822年的历史。
晋太康元年（280），改名望蔡县。
唐中和年间初置上高镇，南唐升元初（937）废上高镇改置上高场，南唐保大十年（952）升场为县，始名上高县，宋元明清沿用。
从1968年2月起，隶属于宜春地区，即现宜春市。
2003年，敖阳镇改设为敖阳街道办事处。
2008年4月，在敖山华侨农场范围内设立敖山镇。
2024年5月，新界埠乡撤乡设镇。
2024年11月，在墨山垦殖场范围内设立墨山乡。
2024年12月，蒙山乡撤乡设镇。
2024年3月设立锦阳街道办事处。