Oddział Zbiorów Muzycznych powstał w 1954 r. (od 1996 r. nosi nazwę Gabinetu Zbiorów Muzycznych). Do tego czasu książki o tematyce muzycznej umieszczano w zbiorze głównym Biblioteki, a druki muzyczne („nuty”) pochodzące z egzemplarza obowiązkowego przekazywano przed wojną Bibliotece Narodowej, po wojnie — warszawskim szkołom muzycznym. W okresie międzywojennym depozyt muzyczny BUW w Bibliotece Narodowej liczył przeszło 15 tys. woluminów. Spłonął on wraz z innymi zbiorami specjalnymi Biblioteki Narodowej w 1944 r.

Podstawowym zasobem Oddziału w chwili otwarcia stały się zbiory byłego Zakładu Muzykologii Uniwersytetu Wrocławskiego (ok. 15 000 jednostek, z których większość stanowiły zasoby należące wcześniej do Musikalisches Institut przy Uniwersytecie Wrocławskim, następcy placówki zwanej Königliches Akademisches Institut für Kirchenmusik, założonej w 1815 r.; do jej zadań należało m.in. gromadzenie muzykaliów kościelnych z terenu Dolnego Śląska, pozostałych po kasatach klasztornych, lub nieużywanych już w liturgicznej praktyce) przekazane BUW zarządzeniem Ministerstwa Szkolnictwa Wyższego z 1952 r. Wśród nich znalazło się około 4500 rękopisów muzycznych z XVI-XX wieku, stare druki muzyczne oraz wiele cennych wydawnictw książkowych i druków muzycznych, głównie niemieckich. Do najcenniejszych obiektów z kolekcji wrocławskiej należy kodeks menzuralny z przełomu XV/XVI w. (Kodeks wrocławski RM 5892 olim Mf 2016), zespół osiemnastowiecznych tabulatur lutniowych z opactwa cysterskiego w Krzeszowie, unikatowe przekazy, m.in. Missa super O gloriosa Domina Marcina Mielczewskiego (XVII w.), Credo G-dur przypisywane Antonio Vivaldiemu, rękopiśmienne kopie dzieł Bacha, Händla i in. związane z działalnością wrocławskiej Singakademie w pierwszych dekadach XIX w. Ze zbioru wrocławskiego około 2500 książek i druków muzycznych z XIX i XX wieku przekazano w charakterze depozytu do ówczesnego Zakładu (później Instytutu) Muzykologii UW.

Wśród dawnych muzykaliów przechowanych w BUW znajdują się także nieliczne ocalałe z wojennej pożogi obiekty rodzimej proweniencji z historycznych zbiorów biblioteki, m.in. zespół tzw. „partesów olkuskich” z XVI w., rękopiśmienna księga liturgiczna z XVIII w. znana jako Graduał łowicki, a także zabytki przechowywane poza Gabinetem Zbiorów Muzycznych: Melodie na psałterz polski Mikołaja Gomółki (Gabinet Starych Druków, w którym przechowywana jest niewielka grupa innych dawnych muzykaliów, głównie liturgica), czy wspaniały rękopiśmienny egzemplarz traktatu Théorie et pratique de la danse J.-G. Noverre’a, wraz z zapisem muzyki do baletu Médée et Jason oraz projektami kostiumów, przechowywany w Gabinecie Rycin BUW.

Gabinet Zbiorów Muzycznych gromadzi obecnie przede wszystkim druki muzyczne (ok. 20 000 jednostek), których głównym źródłem wpływu jest egzemplarz obowiązkowy przekazywany przez polskich wydawców — stąd kolekcja Gabinetu dość dobrze odzwierciedla repertuar muzyczny wydawany w Polsce po roku 1945, zwłaszcza produkcję Polskiego Wydawnictwa Muzycznego. Wpływy z tytułu egzemplarza obowiązkowego były uzupełniane zakupami wydawnictw zagranicznych, w zbiorach Gabinetu znajdują się więc liczne pozycje „kanonu” literatury muzycznej, w tym wydania zbiorowe dzieł poszczególnych kompozytorów, serie wydań krytycznych muzyki różnych epok i ośrodków i in.

W czytelni Gabinetu dostępny jest księgozbiór podręczny obejmujący najbardziej podstawową literaturę muzykologicznego warsztatu: encyklopedie i leksykony, przewodniki, katalogi, bibliografie, monografie kompozytorskie i in. Do dyspozycji czytelników jest także stanowisko komputerowe, stanowisko odsłuchowe oraz instrument klawiszowy Yamaha-Clavinova.