相传北宋时期金国兀术曾在此调兵遣将，调兵山因而得名。

宋徽宗、宋钦宗曾被囚禁在调兵山市锁龙沟村的一眼枯井里“坐井观天”，调兵山之名更是闻名遐迩。