春秋为阳国。
西汉置阳都县，属城阳国。
西晋属东莞郡。
东晋废阳都县，地属发于莒县，即丘、临沂等县。
东隋代属琅琊郡。
唐、宋、元、明、清今境大部属沂水县。
1913年今沂南县境分属岱南边的沂水、莒县、兰山等县。
1936年属山东省第三行政督察区。
1939年抗日民主政权析沂水县之南区乡建立中共沂蒙县委，称南沂蒙。
1940年3月改称沂南县行署（县级）。
1941年2月，沂南县属沂蒙专区。
1942年6月属鲁中行政区（沂蒙专区）。
1945年7月属鲁中行政区沂蒙专区。
1948年7月属鲁中南行政区第二专区。
1943年属鲁中南行政区沂蒙专区。
1950年5月属沂水专区。
1953年8月属临沂专区。
1958年11月，沂南县撤销，辖区并入沂水、临沂、蒙阴、莒县四县。
1961年8月恢复建制。
1967年隶属临沂地区。
1994年12月起，隶属临沂市，并沿用至今。