À l'origine simple chapelle rectangulaire, son portail ressemblait selon des habitants à celui de l'église du Lion-d'Angers. Elle est agrandie au fur et à mesure des besoins, « ressemblant à un marché couvert, dont souffrait l'amour propre des Segréens »
Tombant en ruine, elle est totalement reconstruite entre 1835 et 1842, jusqu'au bord du coteau de l'Oudon. La nouvelle église, construite par l'architecte Dellêtre, est décrite comme un simple rectangle de style néo-grec dans le goût du temps et sans prétention au grand art.
En 1887, le curé Toublanc décide de lancer une souscription pour embellir l'église. Le coût des travaux est de 150 000 francs.
Il fait appel à l'architecte Auguste Beignet (qui a déjà construit la Mairie de Segré). Il ajoute le chœur et le transept actuel, transformant le « vaisseau grec, froid, nu, sans style » en une « belle église de style italien ».
Elle est inaugurée le 7 avril 1896.
L'édifice, qui appartient à la mairie, est inscrit au titre des monuments historiques en 2007.
En septembre 2013, une restauration en quatre phases démarre pour la somme de 900 000 €
Nous devons les vitraux de l'église au maitre verrier Clémens, ils date du 19ème siècles et sont classés au monuments historiques.
L'orgue de 1881 est signé Aristide Cavaillé-Coll, célèbre facteur d'orgue de Notre-Dame de Paris.
Entre sa reconstruction et son agrandissement l'église
de la Madeleine n'a qu'un clocher.