L'area su cui sorge la chiesa faceva parte di una vasta necropoli extraurbana.

Agli inizi del V secolo vi sorse un complesso paleocristiano comprendente una chiesa dedicata a san Lorenzo.

La chiesa attuale fu costruita tra i secoli IX e XI, inglobando il campanile nella facciata. L’attuale campanile fu costruito nel secolo XII.

L’interno è a pianta basilicale, diviso in tre navate concluse da absidi semicircolari. L’architettura attuale risale alla fine del XV secolo.

Degno di nota il chiostro, terminato nel 1133, costituito da 37 colonne in marmo, alcune delle quali sostituite nel XVIII secolo.

I capitelli istoriati, uno degli esempi più notevoli di scultura romanica, rappresentano scene bibliche, favole o motivi ornamentali o episodi della vita di Sant’Orso. Il colore bronzeo è dovuto a una vernice protettiva ossidatasi.