Cette source d’émergence naturelle a pris le nom du monastère qui se situait sur la partie haute du rocher.
Seule source de Vichy consommable par tous, sans ordonnance, la source des Célestins est la plus connue de Vichy : 40 millions de bouteilles sont vendues chaque année, et elle est exportée dans le monde entier. Sa température, comprise entre 20 et 22°, la classe parmi les sources froides de Vichy. Si sa consommation ne nécessite pas de prescription médicale, elle reste une eau thermale, naturellement gazeuse et riche en minéraux, qui favorise l’hydratation, la digestion et l’éclat du teint.
L’aménagement de ce parc, qui occupe une partie de l’ancien enclos du couvent, porte la signature paysagère du Second Empire, avec ses chemins escarpés. Primitivement, l’Allier venait jusqu’au pied du rocher ; mais le dépôt d’alluvions puis la construction de la digue ont finalement permis l’aménagement des abords de la source. C’est seulement en 1908 que le parc prend son aspect actuel avec l’aménagement d’une nouvelle buvette qui permet le regroupement des différentes émergences de la source forées entre 1857 et 1905. L’architecte Lucien Woog conçoit alors un vaste hall de plan elliptique, dans le style du XVIIIe siècle français. L’agencement de la source elle-même, sous sa cloche de cristal et de cuivre entourée de marbre rose, est le dernier témoignage de l’aspect intérieur du hall des sources en 1903.