硫酸发现于公元八世纪，阿拉伯炼丹家贾比尔通过干硫酸亚铁晶体得到硫酸。

在古代中国，稀硫酸被称为绿矾油，在公元650到683年（唐高宗时），炼丹家孤刚子在其所著《黄帝九鼎神丹经诀》卷九中就记载着“炼石胆取精华法”，及干馏石胆（胆矾）而获得硫酸。

至于用硫磺燃烧至硫酸，这是17世纪以后的事，而用接触法制硫酸则更是19世纪后才出现的。