L’antica biblioteca del Collegio fondato nel 1552 fu dispersa alla fine del XVIII secolo dopo l’abolizione della Compagnia di Gesù e la chiusura del CGU; un nucleo abbastanza ampio di questa prima collezione è oggi conservato nella biblioteca della Pontificia Università Lateranense.
L’attuale biblioteca è stata costruita gradualmente a partire dal 1818, anno di riapertura del Collegio.

Oggi comprende quasi 500 volumi della prima collezione del XVI e XVII secolo. Il suo patrimonio è stato arricchito dalle donazioni di Papa Giovanni XXIII, da una parte della biblioteca personale di Pio XII e dalla biblioteca personale di Michael Landgraf, vescovo ausiliario di Bamberg e famoso teologo. La Biblioteca Landgrafiana è una raccolta specializzata di opere di teologia scolastica e letteratura tedesca.
Grazie a questi lasciti, e ad altre donazioni di libri da parte di ex studenti, è stato possibile costituire una collezione che riflette il carattere del Collegio come centro di formazione per studenti di teologia di varie nazionalità. Comprende principalmente opere di teologia, filosofia, patristica ed esegesi. La maggior parte dei libri è ad uso degli studenti e può essere consultata nella sala di lettura, che contiene soprattutto opere di consultazione (enciclopedie, dizionari e manuali). Ci sono anche sezioni separate su arte e letteratura, spiritualità e pubblicazioni in ungherese, sloveno e croato.
Attualmente la biblioteca dispone di 75 riviste correnti e di circa 105.000 monografie. Oltre a queste pubblicazioni cartacee, offre una serie di risorse digitali in costante espansione.