春秋战国之前，一些北方的游牧民族，如匈奴和东胡人在今天的内蒙古地区游牧生活。

战国后期，燕国、赵国、秦国的领土已经拓展到今天的内蒙古地区，中原的华夏民族开始在内蒙古南部定居。如赵武灵王在今呼和浩特托克托县境内始建云中城。“赵长城”经过呼和浩特北面的大青山。

燕将秦开击败东胡之后，构筑“燕北长城”，在今内蒙古赤峰市南建右北平部，治所在宁城。

隋唐时突厥势力左右蒙古高原。

北宋时鲜卑人的一支后裔契丹人创立了辽国，在今内蒙古赤峰市巴林左旗附近建立了蒙古草原上的第一个都城上京