据史料记载，清朝光绪十二年夏末，汾河水泛滥，冲决了汾河沿岸的堤坝，太原城被淹，暴雨停后，不得不凿开南侧的城墙，将洪水排出，而当时分洪的区域就选在了迎泽门(如今的大南门)外的荒地上。

1952年，太原市政府决定在迎泽大街南侧建设一个新公园。

1954年迎泽公园开始筹建： 太原市政府选定南门外的一片荒郊野滩决定筹建新公园。当时，这里一片荒芜，大部分为低洼的河滩和坟地，平时臭气冲天、污水横流。