石敢当最早的文字记载，出现在汉代。西汉书法家史游在他的《急就篇》中载有如下记载：“师猛虎，石敢当，所不侵，龙未央。”

我国出土的最早石敢当碑刻来源于唐朝，出土的年代是在宋庆历年间。当时福建莆田县令整饬县衙，挖掘出一块石敢当石碑，上面刻有“石敢当，镇百鬼，厌灾殃，官吏福，百姓康。风教盛，礼乐张。唐大历五年四月十日”等字样。

而泰山石敢当的出现，则要略迟，大概形成于明清时期。