滕州素有“滕小国”之称。
滕始于黄帝，因境内泉水“腾涌”而得名。
周灭商后，武王封其异母弟叔绣于滕，乃称“滕国”。
秦统一六国后，废分封置郡县，于今滕境置滕县、薛县。
汉初，高祖撤小邾置蕃县，西晋仍袭汉制。
金大定二十二年（1182），升滕阳郡为滕阳州。
大定二十四年（1184），改滕阳州为滕州（州治滕县），辖滕、沛、邹县三县和陶阳镇。
明初（1369）撤销滕州。
建国初，曾为滕县专署驻地。
1953年撤销滕县专署，滕县改属济宁专署。
1979改属枣庄市至今。
1988年3月，经国务院批准，撤销滕县，建立县级滕州市。