Lors de la visite guidée, on découvre une cave située sous le transept avec des restes d’un absidiole qui datent du XI ème siècle donc du premier ou deuxième édifice. Il est aussi possible de voir la salle du trésor, c’est une crypte qui était reliée à la chapelle des abbés par un couloir. Sous le sol des dalles s’ouvrent sur des coffres ou étaient cachés les actes de propriétés et les reliques en périodes d’incertitudes. Dans le musée lapidaire de beaux vestiges de l’abbaye sont présentés : chapiteaux, tympans, et même un gisant retrouvé dans une cave. De plus par le musée il est possible d’accéder au cloître.