民国元年（1912年），市境分属安徽省宿县和江苏省萧县。1948年11月，市境解放。1949年6月，市境分属华东局皖北行政公署宿县和萧县。1953年2月，市境分属濉溪县和萧县。

1958年5月开发淮北煤田，成立淮北煤矿筹备处。1960年4月，以萧县和濉溪县部分地区设立濉溪市，由省直辖。1971年4月，更为淮北市（因地处淮河北，与淮南相对，故名）。1977年2月，宿县地区所辖濉溪县划归淮北市管辖。1981年从萧县划入部分矿区