Ο Τομέας Ελληνικής Μουσικής δημιουργήθηκε με σκοπό να καλύψει την ανάγκη σύστασης ενός κέντρου συγκέντρωσης υλικού, μελέτης και πληροφόρησης για την ελληνική μουσική. Το τμήμα αυτό της Βιβλιοθήκης με την τριπλή του υπόσταση, αρχειακή, ερευνητική και εκπαιδευτική, συγκεντρώνει, επεξεργάζεται και τεκμηριώνει κάθε είδους υλικό, ελληνικού μουσικού ενδιαφέροντος.
Μια από τις βασικές δραστηριότητες του Τομέα είναι η συλλογή των νέων εκδόσεων βιβλίων, παρτιτούρων, περιοδικών και οπτικοακουστικού υλικού από τα περισσότερα είδη της ελληνικής μουσικής (αρχαία, βυζαντινή, δημοτική, ρεμπέτικη και λόγια), καλύπτοντας έτσι ένα ευρύ φάσμα της. Η συγκέντρωση των παλαιότερων εκδόσεων και άλλων σπάνιων τεκμήριων όπως προγράμματα συναυλιών, αλληλογραφία σημαντικών προσώπων, χειρογράφων, φωτογραφιών και άλλων ντοκουμέντων, πραγματοποιείται μέσω αγορών και δωρεών από παλαιοβιβλιοπωλεία και συλλέκτες.
Η συλλογή και διαχείριση των αρχείων ιδιωτών είναι η δεύτερη και μεγαλύτερη δραστηριότητα του Τομέα.
Τα αρχεία συνθετών, καλλιτεχνών και δασκάλων αποτελούν βασική πηγή έρευνας της ελληνικής μουσικής και σε πολλές περιπτώσεις την μοναδική πηγή αναφοράς των ερευνητών, καθώς με τα τεκμήρια που περιλαμβάνουν καλύπτουν την μικρή εκδοτική παραγωγή που παρατηρείται στα έργα ελληνικού ενδιαφέροντος.