Была открыта 1 сентября 1967 года как Петрозаводский филиал Ленинградской государственной консерватории. В сентябре 1991 года Петрозаводский филиал был преобразован в Петрозаводскую государственную консерваторию. Имя А. К. Глазунова присвоено Консерватории в октябре 2003 года.

Сегодня Петрозаводская консерватория располагает значительным научным и творческим потенциалом, сравнимым с потенциалом педагогических кадров ведущих творческих вузов. В консерватории работают видные специалисты, имеющие существенные достижения в научной и творческой деятельности. Помимо учебных и научных задач консерватория выполняет функции активно действующей концертной организации.
В числе ее исполнительских коллективов — студенческий симфонический оркестр, камерный оркестр, академический хор, оркестр русских народных инструментов.

Петрозаводская консерватория уделяет большое внимание подготовке молодых музыкантов для поступления в вуз. В зону методического влияния консерватории входят семь музыкальных училищ, расположенных на Северо-Западе России: училища Мурманска, Архангельска, Вологды, Череповца, Воркуты, Сыктывкара и Петрозаводска. Шире становятся творческие связи Петрозаводской консерватории с различными вузами за рубежом — в Финляндии, Норвегии, Германии, Швеции, США.