尧庙始建于西晋，距今有1700多年历史。旧址在汾河以西，西晋元康年间迁至汾河东岸，唐高宗李治显庆三年（658年），庙址由府城西南迁至城南现址。尧庙是一座集纳丰富历史文化和五千年文明史的国祖庙，俗称三圣庙，是中国专门纪念尧、舜、禹三位先祖的庙宇。尧在4000多年前就定都平阳，划定九州，形成中国最早的格局，平阳成为华夏文明最早的发祥地之一，素有华夏第一都之称。

后人为了纪念尧的功绩和禅让的公私分明，为人民着想不为一己私利的精神建造了尧庙。