Presso la chiesa S. Rufo esisteva la Confraternita della Pietà in una cappella esterna, ma addossata alla stessa chiesa. Prima del 1637 la confraternita fu trasferita dentro S. Rufo. Qui l’associazione fece costruire a sue spese un organo di cui si parla per la prima volta nel 1688. Quell’anno infatti detta confraternita pagava scudi 3,70 al falegname Tiburzio Caprioli
«per haver fatto li scalini sovra l’altare, et haver rifermato il quadro dell’altare et fatto il bango dell’organo».
Negli anni successivi la confraternita celebrava la sua festa (1° agosto) con musica e musici, trombe e tamburi, strumenti vari e sparo di razzi e mortaretti. Nel 1708 pagava gli «assistenti d’organo»; nel 1713 si serviva per la musica di Biagi Cervelli (o Cerrelli), nel 1718 di Pietro Flacchi e nel ’20 di Giuseppe Fiorenzani, tutti maestri di Cappella del duomo. Da notare che nel 1716 pagano «in soddisfattione de musici e d’imprestito dell’organo». Si vede che lo strumento era momentaneamente guasto.
In un inventario del 1780 si legge che nella chiesa vi era «una orghestra fregiata d’intagli, ma sprovvista d’organo». L’assenza dello strumento si spiega con la ricostruzione in nuova forma della chiesa da parte dei Camilliani, ai quali era stata affidata nel 1746. Il nuovo edificio, ristrutturato su progetto di Melchiorre Passalacqua, fu consacrato nel 1760 dal vescovo Gaetano De Carli.
Naturalmente il vecchio organo, accontanato per l’occasione, non era ancora tornato al suo posto. Vi tornerà, rinnovato o un altro nuovo del tutto, prima del 1790, quando fu restaurato da Damaso Fedeli–Fedri, come attesta un cartiglio all’interno. Altri restauri si ebbero nel 1806, 1833 e in anni successivi. Nel 1917 l’organo di S. Rufo era in buono stato.