老君山古称“景室山”寓意伏牛山美景集于一室，因道家始祖老子归隐于此修炼，被道教尊称为太上老君。

贞观十一年（637年），唐太宗重修景室山铁顶老君庙，赐名“老君山”，成为道教主流全真派圣地，“老君山”更名后沿袭至今。万历三十一年（1603年），明神宗诏谕老君山为“天下名山”，并发帑金建殿，成为历史上唯一被皇封为“天下名山”的中国山脉。