周初属郜国，秦置成武县。
汉初，成武属梁国。
中元六年（前144）分梁国为梁、济川、济东、山阳、济阴五国，成武属山阳国。
建元五年（前136）废国置郡，成武仍属山阳郡。
王莽（9～25年）建新朝，改成武为成安，属山阳郡。
建武二年（26）刘秀封族兄刘顺为成武侯，县为其封地。
八年(32)，刘顺迁六安太守，成武又为县。
永平十五年（72），封刘长为济阴王，成武属济阴郡。
建初四年（79），汝南王刘畅改封为王，成武划属梁。
永元五年（93）刘畅获罪，削成武、单父二县，重入济阴郡。
三国，成武属曹魏兖州济阴郡，黄初三年彭城王据子范封平氏侯，四年（223）徒成武。
西晋（265～316）仍依曹魏旧制，成武县属济阴郡。
永嘉之乱后，形成东郡与十六国对立的局面。
成武县地先后属后赵（327）高平郡，前燕（366）高平郡，前秦（382）高平郡，后燕（395）高平郡，东晋（409）高平郡，东晋王朝时侨置的“城武县”隶属于南兖州的南济阴郡。
刘宋时（464），县属徐洲北济阴郡。
北魏（497）于郜城置“城武县”，仍属北济阴郡。
北齐天宝七年（556）撤北济阴郡，于县设永昌郡，治郜城，辖成武、丰、沛、单父等地。
北周改西兖州为曹州，永昌郡遂辖于曹州。
隋开皇初（581），废永昌郡。
开皇十六年（596）于成武故城置戴州，辖成武、单父两县。
大业二年（606）撤戴州，成武复还旧治，属曹州济阴郡。
唐武德四年（621）复戴州，治成武；五年，戴州州治由成武移金乡，成武县仍属之。
贞观十七年（643）戴州撤销，县改属曹州济阴郡。
光化二年（899）于单父置辉州，成武县属辉州。
后唐灭梁，同光二年（924），改辉州为单州。
县属单州，历后晋、后汉、后周未变。
宋，成武属单州，县属京东西路，仍辖于单州。
建炎元年（1127）南宋建立，县为金地，属南京路，辖于单州。
元初，县属单州，属中书省济宁路，后改属曹州。
明洪武四年（1371）县属济宁府，名“城武”，十八年（1385）济宁降为州，兖州升为府，县改属兖州府，隶山东布政使司。
清初沿明制，雍正十三年（1735）改属曹州府。
1913年撤曹州府，县直属山东省；1914年山东全省设4道，县属济宁道。
1925年，山东省由4道改为11道，县属曹濮道，1928年，废除道制，县直属省。
1929年，设立山东省第二区行政督察专员公署，成武县属之。
1938年山东省第二区行政督察专员公署分为第十、第十一、第十二行政督察专员公署，县属第十一公署。
1939年7月1日，日本侵略者侵占县城，后建立伪政权，属鲁西道；1940年，改属曹州道。
1941年6月4日，于县东北部合集一带建立县抗日民主政府，属湖西专署。
1943年9月，在成武东南部建成曹县，属晋冀鲁豫第二十专署。
1945年9月，撤成曹县，并入复程成武。
1946年元月，属第三专区（湖西）。
1949年8月，建平原省湖西专区，县属之。
1952年平原省撤销，随湖西专区改属山东省，1953年8月，湖西专区撤销，改属菏泽专区。
1958年12月，菏泽专区撤销，划归济宁专区，1959年恢复菏泽专区（后改为菏地区）。
1958年10月撤销定陶并入成武?961年10月，恢复定陶县。
2000年6月，菏泽地区撤地设市，成武县隶属菏泽市至今。