À la fin du XIIe siècle, le quartier de Saint-Paul, localisé à l'origine le long du Tour des Roches, est déplacé vers le sud, au-delà de la ravine Bernica.
En 1688, une chapelle dédiée à l'Immaculée Conception est construite sur "les Sables", au pied des rampes montant vers Saint-Gilles, avec, sur son côté sud, à l'emplacement de l'actuelle école Rosalie Javouey, le cimetière du quartier Saint-Paul.
Cette chapelle est devenue église paroissiale en 1703 sous l'appellation de la Conversion-de-Saint-Paul.
Elle a été plusieurs fois rénovée et modifiée, surtout en 1779.
Elle fût victime de deux incendies en 1812 et 1905, mais à chaque fois restaurée.
Par contre, son mobilier ancier a totalement disparu à part quelques éléments en fonte.
Tout comme la statue de la Vierge Marie située face à son entrée principale, elle a été inscrite sur la liste des Monuments Historiques en 2010.
Une statue, réalisée par les forges Ducel dont seulement deux exemplaires existent dans le monde (Saint-Paul de la Réunion et au Brésil).
Elle va faire l'objet d'une restauration importante dès 2012, qui lui rendra notamment son clocheton.