民间传说，该塔是三国魏（225—230）年间，曹操大军征伐东吴时所建。还传说地藏菩萨来华曾在此寺住有年余，弘扬佛法，后才去九华山。法云寺塔的建筑风格世间少有。塔身平面四方七级，青砖砌筑而成。象这样的方形古塔全国仅存四座：西安的大、小雁塔，洛阳白马寺齐云塔以及法云寺塔。