Il santo vescovo Ubaldo fu sepolto nel 1194 nella antica Pieve di S. Gervasio, sulla quale fu riedificata nel 1514-25, per volere delle contesse Elisabetta e Eleonora della Rovere, questa basilica a cinque navate, dedicata da allora a S. Ubaldo, il cui corpo incorrotto è conservato in un urna in bronzo dorato e vetro sull’altare maggiore, riccamente istoriato. Nella navata di destra sono invece custoditi, durante tutto il resto dell’anno, i famosi Ceri, assunti a stemma della Regione Umbria e che in occasione della vigilia della morte di S. Ubaldo, il 15 maggio, vengono trasportati a spalla in una folle corsa da Piazza della Signoria fino alla Basilica di S. Ubaldo. Si tratta di tre macchine di legno intagliato, a forma di due prismi ottagonali sovrapposti, montati su una piattaforma munita di lunghe aste; in cima ad ognuna si trovano rispettivamente le statue di S. Ubaldo (patrono della Corporazione dei Muratori), di S. Giorgio (della Corporazione dei Commercianti ed Artigiani) e di S. Antonio (della Corporazione dei Contadini). 
La Corsa dei Ceri, manifestazione unica nel suo genere, coinvolge tutta la popolazione della città, residente o emigrata che sia, oltre ad attirare migliaia di spettatori. È impressionante, come si riesca a trasportare a spalla queste macchine pesantissime (circa 400 kg) e, grazie alla loro notevole altezza, di un equilibrio precario in una sfrenata corsa attraverso le viuzze medievali della città e su per la collina per un dislivello di 300 m, facendo dei cambi volanti dei ceraioli (trasportatori) impiegati. Agli inizi di giugno la manifestazione viene ripetuta dai più giovani nella Festa dei Ceri Piccoli.
Oltre a ripercorrere la strada fatta dai ceraioli, la Basilica di S. Ubaldo si può anche raggiungere in automobile (da Porta Metauro in direzione Scheggia) oppure con la funivia (partenza nei pressi di Porta Romana).
