Var teikt, ka mūzikas bibliotekāri sistematizē savu aizraušanos ar mūziku. Tomēr, neņemot vērā šo pamata vispārinājumu, mūzikas bibliotekāra pienākumi var ievērojami atšķirties, un tos nosaka iestādes veids, kurā bibliotekārs strādā. Daži no visizplatītākajiem mūzikas bibliotekāru darba devējiem ir publiskās un akadēmiskās bibliotēkas un, mazākā mērā, mūzikas izdevēji, mūzikas konservatorijas un plašsaziņas līdzekļi, piemēram, televīzijas vai radio stacijas.
Mūzikas bibliotekārs publiskajā vai akadēmiskajā bibliotēkā var veltīt lielu daļu sava laika iestādes mūzikas kolekcijas organizēšanai, kas var ietvert tādas lietas kā grāmatas, manuskripti un audio un video ieraksti. Turklāt viņš vai viņa varētu meklēt jaunus materiālus, lai uzlabotu esošās kolekcijas, un palīdzētu bibliotēkas apmeklētājiem efektīvi meklēt un izmantot kolekcijas materiālus. Jo īpaši akadēmisko iestāžu gadījumā mūzikas bibliotekārs var vadīt nodarbības vai seminārus par tādām tēmām kā mūzikas kataloģizācija vai manuskriptu saglabāšana, kā arī veikt un publicēt oriģinālus pētījumus mūzikas jomā.
Tomēr mūzikas bibliotēku darbība nekādā ziņā neaprobežojas tikai ar tradicionālajiem bibliotēkas iestatījumiem. Mūzikas izdevēji dažkārt nodarbina mūzikas bibliotekārus, lai rediģētu publicēšanai paredzētos materiālus un kataloģizētu arhīvu materiālus. Mūzikas bibliotekārs konservatorijā varētu būt atbildīgs par studentu priekšnesumiem nepieciešamo nošu iegādi vai nomu. Radio un televīzijas stacijas bieži paļaujas uz mūzikas bibliotekāru, lai izveidotu mūzikas kolekciju, ko var izmantot programmu uzlabošanai, un producenti var strādāt, sadarbojoties ar savu stacijas bibliotekāru, lai izvēlētos mūziku, kas atbilst viņu programmu vajadzībām. Atkarībā no stacijas rakstura pastāvīgajam mūzikas bibliotekāram var arī lūgt nodrošināt ierakstītos priekšnesumus, lai tos pārraidītu pilnībā.
Acīmredzot šāda veida bibliotēku darbs prasa padziļinātas zināšanas par mūzikas jomu. Tādējādi daudziem mūzikas bibliotekāriem ir bakalaura grāds tādās jomās kā muzikoloģija, ko papildina kursu darbi citās humanitāro zinātņu jomās, ļaujot viņiem saprast veidus, kā mūzika iekļaujas plašākā mākslas kontekstā. Bieži vien viņiem ir tiešu mūzikas izpildītāju pieredze. Arvien biežāk bibliotēkas pieņem darbā tikai kandidātus ar paaugstinātu kvalifikāciju; kā tādiem daudziem mūzikas bibliotekāriem ir arī bibliotēku zinātnes maģistra grāds.
Mūzikas bibliotēku asociācija (MLA) tika dibināta 1931. gadā, lai sniegtu karjeras informāciju un atbalstu mūzikas bibliotekāriem. Turklāt MLA organizē dažādus seminārus, kas ļauj mūzikas bibliotekāriem sazināties ar vienaudžiem no citām iestādēm. Cilvēki, kuri meklē informāciju par mūzikas bibliotekāru apmācību un nodarbinātības iespējām, var sazināties ar MLA, lai saņemtu palīdzību.