מחלקת המוזיקה עוסקת באיסוף, קטלוג והנגשה של חומרי מוזיקה הן בכתב ודפוס והן בהקלטות. במחלקה אוספים מיוחדים של מוזיקה יהודית וישראלית וכן ארכיונים אישיים של מלחינים, מבצעים ומוסדות מוזיקה.
בצוות המחלקה מוזיקולוגים וכן טכנאי קול העוסק בהקלטות ובשימור הקלטות. זהו אוסף המוזיקה היהודית והישראלית הגדול ביותר מסוגו בעולם.