有人把书院与图书馆混为一谈。尽管古代的书院，比如江西庐山的白鹿洞书院、湖南长沙的岳麓书院、河南商丘的应天书院等也有不少藏书，但它们与图书馆还不是一回事，图书馆以藏书为主，这些书院以讲学为主，其目的和设置都相差甚远。

无论是私人藏书还是皇家藏书，真正使用“图书馆”一词，还是从“江南图书馆”开始的。修建于清代光绪三十三年（1907年）的江南图书馆，不但最先使用“图书馆”三个字，也是第一次把藏书推到了公众面前。所以，“江南图书馆”开创了我国图书馆的新篇章，是一所真正的大众图书馆。