兖州相继为郡、州、府所在地，是一方政治、经济、文化、军事中心。
战国时期称瑕丘，南北朝改兖州，隋改称鲁郡，唐又复称兖州，隶属河南道。
宋称袭庆府，隶属京东东路。
金改称嵫阳县，为兖州治，隶属山东西路。
明改滋阳县，明、清皆为兖州府治，隶属山东省。
民国时期，废州府建制，称滋阳县，隶属山东济宁道。
1948年7月解放时曾将城区设兖州市，农村称滋阳县，11月市县合并，称滋阳县，属鲁中南行署四专署。
1949年7月改称属尼山专署。
下设9个区，83个联防，3个镇。
1953年秋属济宁专署。
1956年9月，撤销原9个区，将86个乡镇合并为24个乡。
1958年8月成立6个人民公社，45个生产管理区。
1958年3月，滋阳县与曲阜县合并称曲阜县，县机关驻兖州城。
1962年1月与曲阜县按原行政区域分治，滋阳县改为兖州县，下设10个公社。
1981年底增设2处人民公社。
1984年4月，以原有公社为基础设13个区（镇）、建立37个乡（镇），4个街道。
1986年12月撤区，调整为5个镇8个乡。
1992年1月，将堡子乡设为兴隆庄镇。
1992年8月撤县设兖州市，隶属济宁市。
1994年11月，将城郊乡设为新兖镇。
1995年8月，将黄屯乡设为黄屯镇。
1999年12月6日，将漕河乡设为漕河镇。
2000年12月1日，乡镇由原来的10镇3乡调整为9镇1乡2个街道。
2002年7月，将小孟乡设为小孟镇。
2005年8月17日，黄屯镇6个村划归新兖镇管辖。
2008年8月29日，将10个镇2街道，调整合并为9镇3个街道。
2010年7月6日,撤销王因镇、黄屯镇设为王因、黄屯街道，兖州市辖7镇5个街道，隶属济宁市至今。
2024年11月，国务院和省政府批复撤销兖州市，设立济宁市兖州区。
2024年兴隆庄镇撤镇设立兴隆庄街道，至此兖州区辖6个镇6个街道。