调兵山辖地唐属燕州，辽属黄龙府隶上京，金属会州，清至中华民国属铁岭法库。
清光绪三十二年（1906年），设法库门抚民厅，调兵山、大明等村镇划入法库厅管辖。
全厅共分30个社。
调兵山为安全社首村，辖17个村，大明安碑为安庆社首村，辖12个村。
宣统二年（1910年），法库厅改30个社为一城十乡，调兵山为东一乡，仍为乡会所在地，大明安碑村为东二乡，乡会所在地为柏家沟。
民国二年（1913年），根据当时政府统一规划各县地方官厅组织令，法库改厅为县。
从此，调兵山和大明等地一直为法库县所辖。
大青、晓明等地则始终为铁岭县的辖区。
1946年7月至1947年7月，中共辽吉一地委曾在此设置铁法县。
1949年建国后，调兵山市东南部区域划为铁岭县管辖，西北部区域划为法库县管辖。
1981年9月，经国务院批准，划铁岭县、法库县的各一部分行政区域设市，因邻近铁岭市和法库县而得名铁法市。
1984年10月，铁法市改为铁岭市铁法区。
1986年9月，恢复铁法市建制。
2002年2月，经国务院批准，更名为调兵山市。