本館前身係日治時期「臺灣總督府圖書館」，於日本大正三年（1914）四月十三日，以敕令第六十二號公布「臺灣總督府圖書館」官制，而於同年十一月在艋舺（萬華）清水祖師廟內，設置臨時事務所，籌備開館事宜，翌年六月，遷館至博愛路舊彩票局內辦公，八月九日正式對外開放閱覽。
二戰後，於民國三十四年十月，由臺灣省行政長官公署接收「臺灣總督府圖書館」，次年並合併日人的「財團法人南方資料館」，成立「臺灣省行政長官公署圖書館」（簡稱為臺灣省圖書館）。民國三十七年五月，奉命改隸臺灣省政府教育廳，更名為「臺灣省立臺北圖書館」。本館於「臺灣省行政長官公署圖書館」及「臺灣省立臺北圖書館」二時期皆借用「臺灣省立博物館」一樓營運；受限於空間狹小，續於臺北市八德路、新生南路口建造新館，迨民國六十二年七月一日，奉行政院令改為「國立中央圖書館臺灣分館」，隸屬教育部。
由於業務不斷發展，藏書總量急遽增加，新生南路館舍不敷使用，復經中和市公所(今中和區公所)同意無償撥用四公頃土地使用，民國七十八年教育部同意遷建，迭經「覓地撥用計畫」、「工程開工計畫」到「館務搬遷計畫」三階段，民國九十三年十二月二十日中和新館正式開幕啟用，新館館舍基地面積四公頃，為地上七層，地下三層，樓地板面積逾六萬平方公尺，是目前國內空間規模最大之國立圖書館。
為強化學術研究功能並深化分齡分眾服務，本館相繼於民國九十六年三月成立「臺灣學研究中心」，同年六月成立「臺灣圖書醫院」；民國九十八年七月成立「樂齡資源區」、民國九十九年十一月成立「多元文化資源區」、民國一百零一年二月成立「青少年悅讀區」。
民國一百零二年一月一日，奉行政院令改為今名。
本館自日治時期大正4年(西元1915年)8月9日開館以來，即有製本室﹙裝訂室﹚設置，初期裝訂技師由日本高薪延聘，授與本地職工各種裝訂技術至今歲月悠久。
本館在圖書文獻修復領域中，為臺灣各圖書館之表率及學習對象，在籌建新館之始，便規劃藉由科技設備來長久保存圖書文獻。民國96年6月將裝訂室、圖書大量除酸系統、冷凍除蟲設備及裝訂技術等整合於一，成立臺灣圖書醫院，期盼能推廣圖書保健觀念及醫療修復技術，使此精髓得以永續傳承。

圖片擷取自國立臺灣圖書館臉書粉絲專頁。

本資料由文化部委託台灣閱讀推薦協會建構，建立日期為107年3月14日。