Nei primi due secoli dopo il Mille nasce in Occidente un'originale forma d'arte che riunisce l'eredità dell'Alto Medioevo e la tradizione dell'antica Roma: l'arte Romanica.

L'arte diventa espressione delle idee dei signori e il monumento, di conseguenza, li rappresenta.

Nel Modenese l'arte segue le idee di Matilde di Canossa che raggiunge la sua massima espressione nel Duomo di Modena: naturalmente lo stile influenza i piccoli centri della provincia. E così le sculture richiamano la scuola del cantiere modenese: a volte è possibile riconoscere le mani degli artefici del Duomo, altre volte, invece, si riconosce l'influenza dello stile del Duomo sugli artisti locali.

La Pieve di Santa Maria di Carpi è un esempio di come un monumento può essere trasformato dalla storia.

Le fonti archivistiche e una lapide posta sulla facciata della chiesa ricordano la tradizione longobarda che fa risalire la costruzione della pieve a metà dell'VIII secolo per mano del re Astolfo.

Con l'arrivo di Matilde di Canossa, la pieve viene riadattata ai canoni del nuovo stile che ricordano l'architettura del Duomo di Modena attraverso gli elementi romanici del portale di scuola wiligelmica e il motivo delle arcate poggiate sulle semicolonne. E purtroppo della chiesa originaria  di origine longobarda non restano strutture visibili, ad eccezione di alcune parti della cripta.

Quindi la chiesa con Matilde assume una pianta basilicale e accanto le sorge un'alta torre campanaria di circa 50 metri che ricorda l'architettura lombarda con il doppio ordine di bifore con i capitelli che rappresentano un bestiario medioevale. Il campanile termina con una cuspide che incorona  una loggia dodecaedra circondata da quattro torrette.

La pieve sorge nell'antico centro di Carpi, in  piazza Re Astolfo, proprio davanti al Castello. L'importanza della pieve di Santa Maria, indicata "in Castello" perché si trova dentro le fortificazioni di Carpi, si mantiene nel tempo; infatti diventa, prima, sede di collegiata con arciprete e canonici, e poi si accresce con l'avvento dal 1327 della signoria dei Pio.

Ma con lo sviluppo urbano di Carpi durante il XV secolo, e la costruzione di nuove chiese sotto il regno di Alberto III Pio, il principe umanista allievo di Aldo Manuzio e Giovanni Pico, la pieve, che passa dalla funzione di collegiata a commenda, intravede la decadenza. Infatti, nel 1514 Alberto III Pio decide di abbattere gran parte della pieve, lasciando solo la zona absidale che viene trasformata in oratorio.

Pur essendo ridotta all'ultima campata ed alla zona absidale, il vano ecclesiale ha conservato l'originaria partizione basilicale divisa in tre navate. 

Il sobrio aspetto in mattoni e la copertura con le travi e i travicelli dipinti, è l'esito degli interventi di recupero dovuto al restauro tardo ottocentesco di Achille Sammarini.

All'interno, la Pieve di Santa Maria custodisce, nella navata centrale e nell'abside, bellissimi affreschi del XII-XV secolo, che rappresentano le Storie del Nuovo Testamento e L'Adorazione dei Magi. Si tratta di un eccezionale ciclo pittorico, di qualità molto alta, raro, per l'ampiezza delle superfici superstiti.

Nella parete di facciata è presente un ambone marmoreo del XII secolo - attribuito a Nicolò, un artista che ha operato con Wiligelmo nel Duomo di Modena - in cui sono rappresentati i simboli degli Evangelisti.

Nella navata destra è collocato un sarcofago di Manfredo Pio, il primo signore di Carpi, realizzato da Sibellino da Caprara nel 1351. L'altare della navata sinistra conserva un paliotto in scagliola una tecnica artistica tipica del territorio carpigiano del XVII secolo e un Crocefisso ligneo quattrocentesco.