總館經過了五次主要的遷移，擔任過的館舍共有五座，依續是原松山圖書館、原城北圖書館、原古亭圖書館、原信義路臨時總館、原古亭圖書館。現在的總館落成於1990年，為第五棟做為北市圖總館的館舍。