Нынешнее здание по адресу ул. Пушкинская, 5 было построено специально для библиотеки. Где быть библиотечному зданию и как выглядеть, определили планы послевоенного восстановления и развития Петрозаводска. Строительство началось в 1949 году по проекту архитектора Кусиэля Яковлевича Гутина, спустя десять лет библиотека разместилась в новом здании.
В 2009 году началась реконструкция здания библиотеки. Все это время учреждение было открыто для посетителей, в его стенах проводились различные значимые для жителей города культурные события. Реконструкция Национальной библиотеки завершилась в 2017 году.