L’abbaye de Pavilly fut fondée en 662 par saint Philibert, abbé de Jumièges, comme monastère dédié aux femmes. Sainte Austreberthe, première abbesse venue de Port-le-Grand, y dirigea la communauté jusqu’à sa mort en 704. Elle fit ériger trois églises (Vierge, saint Martin, saint Pierre), avant que le site ne soit ravagé par les Normands au IXe siècle, forçant les religieuses à fuir vers Montreuil, où elles fondèrent l’abbaye Sainte-Austreberthe.
Au 4e quart du XIe siècle, l’abbé Gautier I de la Trinité du Mont restaura un prieuré sur les ruines, reconstruisant notamment l’église. Abandonnée en 1717, la chapelle fut rachetée et rouverte au culte en 1860. Son inscription aux Monuments Historiques en 1934 protège ce vestige du XIe siècle, tandis que le trésor d’art sacré des religieuses, incluant la crosse de sainte Austreberthe (VIIe–XVIIIe siècle), est conservé à Montreuil.
Le site, aujourd’hui propriété d’une association, témoigne de près de 1 400 ans d’histoire monastique, marquée par des destructions, des reconstructions et des déplacements de communautés religieuses. La chapelle Sainte-Austreberthe, unique élément protégé, incarne la persistance du culte malgré les bouleversements historiques, des invasions vikings à la Révolution industrielle.