铜山历史悠久，尧封颛顼后裔篯铿（彭祖）于此，称大彭氏国，距今4000余年。
商改为崇国。
西周为吕国。
春秋时期属宋国，为彭城邑。
战国时期属楚国。
公元前221年，秦始皇统一六国后，始置彭城，为其建县之始，属泗水郡。
汉代为彭城国。
宋代为彭城郡治。
咸淳元年（1265），废县入徐州，属归德府。
清雍正十一年（1733），升徐州为府，置铜山县为府治，以县东北境微山湖畔铜山岛（山体已沦入湖中）而得名。
2010年9月28号，经国务院、省政府批准，撤销江苏省铜山县，设立徐州市铜山区。