Si ha notizia per la prima volta della "ecclesia Sanctae Mariae intra fauces" (1160 m.) da una Bolla di papa Clemente III del 2 Giugno 1188. Il 24 Marzo 1278, il conte Ruggero della famiglia Berardi, donò ai monaci della chiesa di S. Marco il terreno per costruire il monastero, mentre il 19 Gennaio 1293, la Chiesa di San Marco venne riconosciuta in un testamento appartenente all'Ordine di fra Pietro del Morrone, futuro papa Celestino V. Trent’anni più tardi, nel 1320, il Monastero di San Marco risulta dipendente dalla Basilica di Santa Maria di Collemaggio a L’Aquila, mentre nel 1392 il conte Pietro II di Celano donò ai frati celestini ubicati in loco il proprio palazzo situato nei pressi dell’attuale Chiesa di Sant’Angelo, nei pressi del Castello Piccolomini di Celano, per utilizzarlo come nuova sede.
Il 17 Aprile 1685 l'abate di Rovere Nicola Pietrantonio chiese al Vescovo dei Marsi di riaprire al culto la cappella del Monastero di San Marco dove era prevista una processione. Alla manifestazione religiosa fu presente anche fra Bartolomeo da Trasacco, discepolo, segretario e biografo di papa Celestino V. Ad oggi non vi sono prove della presenza di quest’ultimo, artefice della Bolla del Perdono da cui fu istituita la cosiddetta “Perdonanza”. Oggi i resti del complesso monastico sono visibili e visitabili grazie ai lavori di bonifica e pulitura dei soci CAI della Sottosezione di Celano.
Descrizione del complesso celestiniano:
Il complesso monastico e la chiesa rupestre si presentano allungati per oltre 50 m. su un gradone roccioso a strapiombo sulle Fauces con mura in opera incerta medievale. L'ingresso rettangolare largo circa 1,80 m. privo di architrave in pietra, è difeso sul lato sinistro da un'arciera , sottile feritoia verticale strombata internamente, mentre sopra il portale si notano le imposte della finestra. All'interno si riconoscono facilmente due ambienti comunicanti, il primo di passaggio, probabilmente un porticato, verso il torrente; il secondo situato sulla parete rocciosa dove si possono notare ancora i fori rettangolare utilizzati per incastonare delle travature del soffitto e del pavimento superiore, visto che il Monastero di San Marco alle Foci , probabilmente, era elevato su due piani. Il muro di divisione tra i due ambienti presenta una porta larga 1,60 m. ed una rientranza dotata di finestra larga 70 cm.
Su un gradone era situata la Chiesa rupestre di Maria Intra Fauces con abside ricavato sulla parete rocciosa su cui si notano alcuni residui di affreschi ed un gradone di fondo su cui poggiava la volta.
.