1963. a eraldati krunt raamatukogu ehituse jaoks. Hoone projekteerimine jäi aastaisse 1966–1972, lõppjärgus valmisid ka illustreerivad eskiisid ja makett.

1974. a algas ehitusplatsi ettevalmistamine. 27. septembril 1976 leidis aset pidulik nurgakivi panek. Selleks ajaks oli hoone karkass juba püsti. Suvel 1977, kui tähistati raamatukogu 175. aastapäeva, korraldati külalistele tutvumiskäike ehitusele.

25. detsembril 1980 võttis riiklik komisjon ehitajatelt töö vastu hindega “väga hea”.

Arhitektid Kalju Valdre ja Mart Kalling, projekti peainsener, ehitajad ja raamatukogu direktor Laine Peep pälvisid tehtud töö eest NSVL Ministrite Nõukogu preemia. Uusfunktsionalistlikus stiilis hoone äratas tähelepanu terves Nõukogude Liidus ja ka raja taga.