北京北海公园西侧“隔海”相望有一排绿荫掩映下的琉璃瓦建筑，那就是旧北京图书馆老馆（现国家图书馆古籍馆）

1912年8月27日，中国第一所国立图书馆——京师图书馆——在位于后海北沿儿鸦儿胡同的广化寺正式开馆。但因其地址太偏，往来不便，“潮湿甚重，于藏书尤不相宜”，故于1913年关闭。鸦儿胡同之名，由沿儿胡同（后海北沿儿）演变而来，清朝改称鸦儿胡同，沿用至今。

位于广化寺的京师图书馆

1917年1月26日，京师图书馆在方家胡同国子监南学旧址重新开馆。此处共有房屋119间，总面积约2960平方米，面积较广化寺有所增加，潮湿也不太重，但地址仍太偏僻，房屋陈旧且分散，不便管理。

位于方家胡同的京师图书馆

方家胡同京师图书馆开馆合影

1928年，因国民政府迁往南京，北京更名北平。京师图书馆更名为国立北平图书馆，馆址选定中海居仁堂。

居仁堂原为1900年后慈禧饬建的西式两层楼建筑，房屋宽敞。现已无存

 1929年1月10日，国立北平图书馆在此举行开馆典礼。陈垣报告国立北平图书馆沿革及藏书情况，前馆长江瀚发表演说，并接待各界来宾参观。中海居仁堂馆中藏有文津阁四库全书一部、唐人写经八千六百五十一卷，又有普通书十四万八千余冊、善本书二万二千余冊、以及明清輿图、金石墨本等等稀世珍宝。

再往后，从国内资料往往语焉不详了。
实际上如今这富丽堂皇的建筑是由美国庚子赔款之退款建立的“中华教育文化基金会”（中基会）提供全部经费。

       为建立图书馆新馆，中基金董事会购置了北海公园西边的七十六亩土地作为新馆馆址。这里在明代与北海同属皇帝游乐的西苑禁地，清朝一度成为御马圈，民国初年成为陆军部管辖的军营和操场。

中基金董事会还专门设立了国立北平图书馆建筑委员会，周贻春为委员长，任鸿隽 、丁文江、戴志蹇、刘复、孙洪芬、袁同礼为委员。

所有建筑过程步骤都采取公开招标方式，包括建筑设计方案、建筑工程施工单位的选取、以及大宗用品的采购等等。在决定新馆建筑为传统中式宫廷外观以及现代化图书馆内部功能之后，图书馆建筑委员会向国内外公开征集新馆设计图案，所有参赛设计图纸送往波士顿，由美国建筑学会推选的专家组成审查委员会评选出最佳设计方案，作为新馆的设计方案。

欧洲人莫律兰（V. Leth Moller） 的方案在17份参赛设计中获膺首选。莫律兰被聘为建筑工程师，北平长老会建筑师丁恩 (S. M. Dean) 和王府井协和医院的设计者安那 (C. W. Anner) 被聘为名誉顾问。新馆主体工程发标书用中、英文发布，有26家中外建筑企业参与竟标，最后经建筑委员会和董事会联席会议的审核和考察，决定由天津复新建筑公司承建。新馆需要的钢铁书架、暖气炉、通风机、卫生工程设施也公开招标采购，英、美、德等国及中国的八家公司竟标，最后天津美丰机械制造厂中标。

新馆还建立了先进的图书管理制度，改变我国传统的藏书楼的藏书法。将传统图书四库分类法改为近代分类法，按书名第一个字拼音及作者姓名第一字的笔画分目制成索引卡片。组建购书商榷会监督和指导图书馆购书。

1931年，北海西侧文津街新馆告竣，7月1日开馆，并加入世界图书馆学会  

主楼前的草地上矗立石碑（刻《国立北平图书馆记》，蔡元培撰文，钱玄同书）。

                               國立北平圖書館記    

                                蔡元培撰  錢玄同書

國立北平圖書館者，教育部原有之國立北平圖書館与中華教育文化基金董事會自辦之北平北海圖書館合組而成者也。

舊隸教育部之國立北平圖書館，初名京師圖書館，成立於民國紀元前二年館址僦十刹海廣化寺充之。
民國二年設分館於宣武門外前青廠，未幾本館停辦,移貯圖書於教育部。

四年部議以方家胡同前國子監南學房舍為館址，籌備改組，六年一月開館，十七年七月更名曰：國立北平圖書館；

十八年一月遷館址於中海居仁堂館，中藏有文津閣四庫全書一部、唐人寫經八千六百五十一卷又有普通書十四萬八千餘冊、善本書二萬二千餘冊、明清輿圖數百軸及金石墨本數千，通均希世之珍也。

顧以館址無定，灾損堪虞，民國十四年中華教育文化基金董事會成立，即有与教育部合組國立京師圖書館之議，而牽於政局未能實現，董事會遂購置御馬圈地，繪圖設計籌建新館，同時在北海賃屋組織北京圖書館。於十五年三月成立，還都後更名曰：北平北海圖書館。

三年以來規模略具，共購置中文書籍八萬余冊，西文書籍三萬五千餘冊，分類編目与各種書籍標誌索引之篹輯，均次第舉行出版，事業亦已開始。此兩館未合併以前之略史也。

新館之建築工程，實始於十八年三月。是年六月董事會舉行第五屆年會教育部重提兩館合組之議，經董事會通過仍用國立北平圖書館之名，而權以第一館第二館別之。

今茲新廈告成乃合，兩者之所藏而萃於一館焉。新館之建築采取歐美最新之材料与結構，書庫可容書五十萬冊，閱覽室可容二百餘人，而形式則仿吾國宮殿之舊，与北海之環境尤稱。

自茲以往集兩館弘富之蒐，羅鑒各國悠久之經驗逐漸進行。積久弥光則所以便利學術研究而貢獻於文化前途者庸有既乎爰誌緣起用勖將來。

中華民國二十年六月二十五日