臺北市於民國十九、二十五、三十五、三十六年先後設立松山、城北、古亭、城西四所圖書館，為社會熱心人士捐贈館舍或募集圖書所成立。迨至民國四十一年台灣省政府頒布「臺灣省各縣市立圖書館組織規程」之規定，將上述四館合併成立「臺北市立圖書館」，並於民國四十四年升格為甲等館。成立之初，總館館舍尚未興建，乃暫以原松山圖書館為總館，城北、城西及古亭三圖書館為分館，四十四年城北分館甘州街館舍落成，總館即遷往該處，松山圖書館改稱「臺北市立圖書館城北分館」。至此，臺北市立圖書館館舍均已陸續完成，除總館外，並擁有松山、城北、城西三分館。民國五十六年，臺北市改制，並全面發展都市建設，臺北市立圖書館獲得不少助力，業務大幅精進。由於台北市幅員遼闊，人口超過二百六十萬，故需在各行政區普社分館，以服務台北市民。民國六十年共計有三所分館及民眾閱覽室。民國六十七年在政府文化建設方案推動下，臺北市立圖書館邁入新的里程碑。民國七十年共計有十二所分館及三所民眾閱覽室，民國七十九年新總館落成啟用後，更為臺北市市民展開圖書資訊服務的新紀元。民國八十年共計有二十七所分館及七所民眾閱覽室，至民國九十年底共計有三十九所分館及十一所民眾閱覽室。截至目前為止，臺北市立圖書館除總館外於各行政區已設置有四十所分館及十二所民眾閱覽室，且目前尚有二所分館正積極興建中