晋祠始建于北魏前，是为了纪念周武次子叔虞而建的。南北朝天宝年间扩建，大起楼观，穿筑池塘。贞观二十年，646年李世民游晋祠撰碑文，又一次扩建。难老泉，侍女像，圣母像被誉为晋祠三绝。晋祠前有几匹马是为了纪念白马驮经传说。

在汉朝时期佛教第一次传入中国，用了一匹白马驮经，建造了白马寺纪念这匹白马，所以有了白马驮经的传说。