Junto con el monasterio, la iglesia es la tipología más extendida en la expansión de la orden cluniacense. Al igual que en el caso del monasterio, no se implantó un modelo concreto, pero la iglesia construida en el complejo monacal de Cluny sirvió de referencia a numerosas construcciones levantadas en la época. Tampoco se pueden destacar unas características específicas pero, dada la situación geográfica de la villa borgoñona, sí se aprecian rasgos propios de los constructores lombardos pertenecientes al mundo latino, junto a elementos procedentes de la arquitectura del norte europeo.
Partiendo de los restos conservados y de la escasa documentación con que se cuenta se han establecido tres estadios o fases en la construcción de la iglesia de Cluny:
- El primer estadio se fecha entre 910 y 927, es decir, entre los años de fundación y consagración de la primera iglesia. Parece ser que esta primera construcción respondía al denominado estilo otoniano, caracterizado por el empleo de planta central (circular o poligonal), esquema heredado de la antigüedad romana o de la iglesia del Santo Sepulcro de Jerusalén.
- Tras las incursiones húngaras del año 953 y la consiguiente destrucción del primer templo, se inició la construcción del segundo edificio en torno al año 981. La calidad constructiva, todo realizado en piedra, y la atención a la estética son las notas distintivas de esta segunda edificación. La existencia de iglesias creadas bajo la influencia de Cluny en territorio suizo ha permitido reconstruir el esquema de esta iglesia. Respondía a una planta longitudinal o de cruz latina, con tres naves, crucero y cabecera con siete capillas. Exteriormente, carecía de pórtico pero contaba con un atrio abierto dotado de galerías porticadas que constituía el acceso al recinto; además, poseía dos torres a los pies y otra en la parte central del crucero. Desde un punto de vista decorativo, la ornamentación de influencia lombarda era lo más característico.
- A finales del siglo XI, el deseo de engrandecer la orden trajo consigo la creación de un nuevo templo más grande, convirtiéndose la iglesia de Cluny en el templo cristiano de mayores dimensiones hasta la reconstrucción de la basílica de San Pedro en Roma en el siglo XVI. En el año 1088 se emprendió la obra que duró hasta el año 1130 y fue financiada por el rey de Inglaterra y el rey de Castilla y León (Alfonso VI). Se trataba de un templo de planta de cruz latina que contaba con cinco naves, dos cruceros y cabecera con girola rematada por cinco capillas. A los pies del templo sobresalía el cuerpo de acceso constituido por un pórtico de tres naves con dos torres antepuestas. Las dimensiones eran enormes para la época: alrededor de 200 metros de longitud de todo el conjunto y la nave central alcanzaba casi los 30 metros de altitud y 10 de anchura.
Desde un punto de vista constructivo, el arco de medio punto y apuntado, la bóveda de cañón y la bóveda de arista fueron los elementos empleados. Conviene subrayar que la alternancia de arcos de medio punto y arcos apuntados y la presencia de ventanas, sobre todo en la cabecera, permitía la iluminación con luz natural del interior, algo inusual en las construcciones románicas.
En el exterior resaltaba el gran número de torres, ya que, además de las dos que precedían el pórtico de entrada, se encontraban en la parte central del crucero principal una gran torre de sección cuadrada, dos octogonales de altura semejante y otras dos en los ángulos de dimensiones más pequeñas. Una pequeña torre en el crucero adjunto a la cabecera completaba todo el conjunto. También externamente destacaba la presencia de arbotantes, la profusión de ventanas y la decoración a base de arquillos ciegos, de influencia lombarda.
Este modelo de construcción influyó decisivamente en diferentes edificios del momento pero, especialmente, en las iglesias románicas borgoñonas, entre las cuales sobresalen la iglesia de la abadía de Notre-Dame de Charité-sur-Loire, la iglesia de Saint Étienne de Nevers, la iglesia de la abadía de Saint-Bennoît-Sur- Loire y la basílica de Paray-Le- Monial.