相传此地为春秋鲁国季平子的封邑，故名平邑。
西周为颛臾国地，系鲁国附庸。
春秋境内设邱舆邑、武城邑、东阳邑。
秦灭颛臾国，全境属薛郡。
西汉置南武阳县和南城县，并一度置平邑候国和南城候国。
新莽废平邑候国并入南武阳县，属泰山郡，遗址在今平邑县平邑镇北10公里武山南麓。
南城县属东海郡，遗址在今平邑县南魏庄乡南武城地。
后汉今平邑一带仍为南武阳、南城2县地，同属泰山郡。
晋改南城县为南武城县，仍属泰山郡，南武阳县改属琅邪郡。
刘宋改南武城县复名南城县，属兖州泰山郡；改南武阳县为武阳县，也属泰山郡。
高齐废南城县入武阳县。
隋开皇十八年(598年)改武阳县为颛臾县，属沂州琅琊郡。
唐贞观元年(627年)省颛臾县入费县，此后，今平邑县境一直为费县辖地，并随费县隶属关系变化而变化。
1940年6月抗日民主政权以滋(阳)临(沂)公路为界，将费县析为费南、费北两县；公路以南的西半部地区为费南县，是为平邑县的前身，时属鲁南行政区；公路以北、汶河以西为费北县。
1944年1月费南县改称费县。
1946年1月费北与费东2县合并为蒙山县。
同年4月费县改称平邑县，属鲁南行政区第一专区；温河县(原临费边县)则改为费县。
这时平邑县下辖8个区。
1947年8月，平邑县之第四(临涧)、第九(山阴)2区划归新设的白彦县，费县(原温河县)由吾区、泗水县香山区划归平邑县。
1948年3月香山区复归泗水县。
同年7月平邑县属鲁中南行政区第四专区(1949年7月改称尼山专区)。
1950年5月属滕县专区。
1952年3月撤销蒙山县，其西部的第一、二、三、四区共4区73乡321村划归平邑。
1953年7月撤销白彦县，其第十、十一、十二、十三区共4区33乡划归平邑县。
同月平邑县改属临沂专区。
1967年属临沂地区。
1994年属临沂市。