Narodna biblioteka je osnovana 1832. godine i najstarija je ustanova kulture u Srbiji. Nastala je kao svojevrsni depozit knjiga, zatim bila biblioteka u sastavu (Knjaževsko-tipografijska biblioteka, Biblioteka Popečiteljstva prosveštenija); nakon toga je okupila više biblioteka javnih i državnih nadleštava i otkupila nekoliko privatnih biblioteka (Lukijana Mušickog, Josipa Šlezingera), da bi sa vremenom izrasla u nacionalnu biblioteku.

Godine 1845. Biblioteka je imala 1421 naslov u 2283 sveske i autorski katalog, koji je izradio dr Milovan Spasić. Kneževim ukazom iz 1853. godine uvedeno je zvanje državnog bibliotekara u rangu profesora Velike škole. Naziv „Narodna biblioteka” ozvaničio je Đura Daničić, koji je definisao nacionalnu koncepciju nabavne politike i započeo izradu tekuće nacionalne bibliografije. Stojan Novaković bio je prvi zakonodavac Biblioteke. Njegovom zaslugom, Zakonom o štampi iz 1870. godine, ustanovljen je obavezni primerak, a Biblioteka je izdvojena iz Ministarstva prosvete i crkvenih poslova i otpočela je izdavačka delatnost. Još nekoliko zakona koji se tiču Narodne biblioteke doneto je u periodu do 1901. godine. To su Zakon o Srpskoj kraljevskoj akademiji nauka, koji je nadzor nad radom Biblioteke dodelio ovoj ustanovi, zatim Zakon o Narodnoj biblioteci, koji je definisao osnovne zadatke Biblioteke, a to su: a) da pomaže negovanju nauke u Srbiji, b) da olakša širenje narodnog obrazovanja i v) da vodi računa o srpskoj bibliografiji. U ovom periodu, Biblioteka je dobila i svoj prvi Pravilnik o unutrašnjem uređenju i radu.

Prvi svetski rat doneo je mnogo nesreće Biblioteci. U bombardovanju je stradao deo fonda, preostali fond je preseljen na više mesta u Beogradu, Nišu i Kosovskoj Mitrovici. Deo fonda dospeo i je i do Sofije, ali je posle rata vraćen. Nestalo je dosta građe, rukopisa, knjiga i novina.

Zakon o štampi i novi Zakon o Narodnoj biblioteci iz 1919. godine donose Biblioteci status centralne državne biblioteke i pravo na obavezni primerak sa čitave teritorije Kraljevine Srba, Hrvata i Slovenaca. Tekuća bibliografija Jugoslavije počinje da se izrađuje 1928. godine. Kataloški listić međunarodnog formata usvojen je u Biblioteci 1938. godine. Časopis Glasnik Narodne biblioteke počinje da izlazi 1940. godine.

Početkom Drugog svetskog rata, u bombardovanju Beograda, Biblioteka je izgorela do temelja. Tada je izgubljen veliki deo fonda, katalozi i inventari. Obnova fonda počela je još za vreme rata da bi nakon njega bila intenzivirana.

Biblioteka dobija nove, uređene kataloge, i to: 1947. godine Autorski, a 1948. godine Predmetni. Godine 1953. osniva se Bibliotečki centar, koji će prerasti u Odeljenje za unapređenje bibliotečke delatnosti. Bibliografsko odeljenje osnovano je 1960. godine sa svrhom izrade srpske retrospektivne bibliografije, a iste godine i Arheografsko odeljenje sa ciljem da opisuje i registruje južnoslovenske ćirilske rukopise, kao i da rekonstruiše rukopisni fond. U to vreme nastala je i Konzervatorska laboratorija za zaštitu bibliotečkog materijala i naučno-eksperimentalna ispitivanja knjige i papira.

Zakon o bibliotekama Srbije iz 1965. godine, Narodnoj biblioteci, kao centralnoj matičnoj biblioteci u Srbiji, dodeljuje posebno mesto i važne funkcije.

Na dan stradanja u bombardovanju, 6. aprila 1973. godine, Biblioteka je svečano otvorila vrata svoje nove zgrade, u kojoj je i danas. Sledeće 1974. godine, formira se Stručni katalog po UDK, a zatim i Centralni katalog Srbije i Centar za naučne informacije. Godine 1976, Biblioteka usvaja nova pravila za katalogizaciju građe i prelazi na novi, međunarodni standard za bibliografski opis ISBD. Vrše se pripreme za prelazak na automatizovanu obradu podataka.

Godine 1987. Biblioteka započinje sa katalogizacijom publikacija pred izlazak iz štampe, izrađujući za monografije kataloški zapis u publikaciji CIP – Cataloguing In Publication, obuhvatajući pretežan broj izdanja u zemlji.

Elektronski katalog Narodne biblioteke Srbije formiran je 1989. godine. Budući da je obuhvatao svu novopribavljenu građu, doveo je do obustave izrade lisnih kataloga 1991. godine.

Lokalnu računarsku mrežu Biblioteka je dobila 1996. godine, kada je omogućen i pristup Internetu i izrađena prva veb prezentacija.

Posle 2000. godine, Biblioteka čini značajne korake, u prvom redu u otvaranju prema svetu, pri čemu Centar za međunarodnu saradnju dobija intenzivniju i značajniju ulogu. Centar za naučne informacije inicira osnivanje Konzorcijuma biblioteka Srbije za objedinjenu nabavku (KOBSON), koji omogućava pristup velikim elektronskim bazama časopisa sa preko 6000 naslova. Pokreće se veliki broj novih projekata. Jedan od njih je i osnivanje Centra Virtuelne biblioteke Srbije (VBS), koji povezuje elektronske kataloge biblioteka u Srbiji u jedinstven uzajamni elektronski katalog.