Vers 530 un monastère est fondé dans la commune au lieudit « La Grande Fontaine ». Basle quitte ensuite le monastère pour se construire une cellule dans la forêt, sur la montagne, où il devient ermite. Une croix dite de l’Ermitage rappelle encore aujourd’hui cette présence en forêt de Verzy, à proximité du Mont Sinaï. De nombreux miracles lui sont attribués, ce qui lui vaut d’acquérir la sainteté. Basle meurt à l’âge de 65 ans. Les reliques de Saint Basle sont conservées dans l’église Notre Dame de Verzy .
Une abbaye était construite au-dessus de la commune à l’entrée de la forêt. en face du chemin conduisant au Mont Sinaï. Après sa vente en 1792, l’abbaye est démolie. Elle portait le nom de Saint Basle en souvenir du moine Basle.
Pour rappeler l’existence de l’abbaye et de Saint Basle, un oratoire commémoratif fut construit en 1894.
Les écussons de la façade, les inscriptions de l’intérieur, les trois vitraux qui garnissent les baies et la statue de saint Basle, suffisent à relater l’origine de la chapelle et l’existence de l’abbaye à cet endroit.
