Viss ir aizsācies 1965. gadā, kad, īstenojot Rēzeknes pilsētas attīstības plānu, tika nolemts: 3. kvartālā jāatver pilsētas 2. bibliotēka. No tiem laikiem arhīvā ir saglabājies kultūras nodaļas vadītājas G. Mednes Rēzeknes izpildkomitejas priekšsēdētāja vietniekam N. Maļauko 28. jūlijā uzrakstītais lūgums par darbinieka pieņemšanu no 1. augusta, šim darbiniekam bija jāuzsāk bibliotēkas organizēšana.

     Pirmais ieraksts bibliotēkas inventāra grāmatā izdarīts 1965. gada 15. septembrī. Pirmā un sākumā arī vienīgā bibliotēkas darbiniece bija vadītāja vietas izpildītāja Lidija Dementjeva. Nav ziņu, kurā datumā bibliotēka uzsāka lasītāju apkalpošanu, bet vietējās avīzes „Znamja Truda” 12. decembra numurā ir neliela informācija par to, ka atvērta Rēzeknes pilsētas 2. bibliotēka. 1965. gada beigās bibliotēkai ir bijuši 64 lasītāji, 1246 eksemplāri grāmatu un telpas 43,75m² platībā.

     Rēzeknes pilsētas 2. bibliotēku var nosaukt par lielu „ceļotāju”, jo kopš dibināšanas tā savu atrašanās vietu ir mainījusi jau veselas četras reizes. Bibliotēkas pirmā adrese ir bijusi Atbrīvošanas aleja 106 (toreiz Ļeņina iela), vēlāk Kr. Barona iela 3/5 un Bukmuižas iela 3 (toreiz Čkalova iela), bet no 1993. gada rudens tā atrodas Atbrīvošanas alejā 166.

     Bibliotēkas vadītājas amatā ir bijušas Klaudija Krilova (1966–1969), Lidija Streļča (1970–1974) un Olga Rassohina (1974–1996), bet kopš 1996. gada to vada Bronislava Selecka.

     No 1977. gada Rēzeknes pilsētas 2. bibliotēka ir Rēzeknes pilsētas Centrālās bibliotēkas filiāle un apkalpo visu vecumu lasītājus. Laika gaitā bibliotēkai ir mainījies grāmatu krājuma sastāvs un tematika, mainījušās lasītāju intereses un prasības.

     2003. gadā bibliotēkā ienāca pirmais dators ar interneta pieslēgumu. No 2004. gada tika uzsākts darbs ar bibliotēku informācijas sistēmu (BIS) ALISE un lasītāju elektroniskā reģistrācija, 2006. gada beigās uzsākta bibliotēkas krājuma rekataloģizācija, bet 2007. gadā –  automatizēta lasītāju apkalpošana BIS ALISE .

     Tagad bibliotēkā ir 9 datori ar interneta pieslēgumu, notiek automatizēta grāmatu izsniegšana/saņemšana, lasītāji grāmatas var rezervēt attālināti. Pašlaik bibliotēkā strādā 4 bibliotekārie darbinieki, un 2010. gadā tai bija gandrīz pusotrs tūkstotis lasītāju.