Gernot Gruber studierte Musik, Musikwissenschaft, Philosophie und Germanistik. Von 1976 bis 1995 war er ordentlicher Professor an der Hochschule für Musik und Theater München, und von 1995 bis 2008 hatte er eine Professur an der Universität Wien inne. Gruber ist Mitherausgeber der dreibändigen "Musikgeschichte Österreichs" und wirkliches Mitglied der Österreichischen Akademie der Wissenschaften sowie seit 2006 Obmann der Kommission für Musikforschung.