Algunas cavernas han sido utilizadas como santuarios en los que aparecen localizados diversos temas míticos
En la sierra de Toloño existen dos cuevas que son ermitas dedicadas a San Tirso y a San Quílliz (Quirico), respectivamente. La ermita de San Bartolomé, cerca de Atauri, ocupa una gruta. La de San Román se halla en la de una peña situada sobre el pueblo del mismo nombre. La ermita de la Trinidad está en una cueva de la montaña de Guibijo en Kuartango. Una ermita de la Virgen se halla en una de las cuevas de Salinas de Oro. Otra, también de la Virgen, ocupa la cueva de la peña de Oskia. La de la aparición de Nuestra Señora de Ujué es igualmente una cueva. En una peña de Urdúliz se abre la cueva donde está la ermita de Santa Marina. En una cueva del desfiladero de Atxarte (Abadiano) se halla la ermita de Santo Cristo. La ermita de San Elías o de Santelli o Sandalli está en una cueva de Araotz (Oñati). En su interior existen vestigios de enterramientos humanos prehistóricos. La ermita de San Adrián se halla en el túnel de este nombre, en la sierra de Aizkorri.
En Faido existen tres pequeños templos medievales subterráneos. El primero en la peña de San Miguel. El segundo es la ermita de Nuestra Señora de la Peña, situada en el peñón de Kruziao, de traza paleocristiana. El tercero se halla sobre el anterior, excavado en el mismo peñón: su planta recuerda la de ciertos templos visigóticos.
En la peña de Sarratxo (Albaina) existen otros dos templos paleocristianos excavados en la roca. En la de Goba (Laño) hay también dos templos rupestres, como los de Sarratxo y de Faido: en ellos existen inscripciones latinas medievales. En Santorcaria (Santa Leocadia), que es otra peña de Laño, pueden verse otros dos templos. Tanto en estos, como en los anteriores templos rupestres, pueden apreciarse los ábsides con sus respectivos altares, de los que unos son saledizos de roca de forma cúbica y otros en forma de nichos abiertos en los muros.
Según la leyenda de San Miguel de Excelsis (en Aralar), el santuario del Arcángel está construido sobre la entrada de una sima, donde en otro tiempo vivía Herensuge, genio al que se ofrecían víctimas humanas. A la derecha de la mesa del altar se ve un hueco a modo de los antiguos altares de nicho que, según creencia, comunica con dicha cavidad subterránea. Muchos peregrinos tienen la costumbre de meter la cabeza en aquel hueco mientras rezan un Credo, como medio que los preserve de males de cabeza durante el año.
Nichos parecidos al de San Miguel de Aralar existen también en los santuarios o ermitas de San Esteban de Usúrbil, de Nuestra Señora de Zukiñaga (Hernani), de San Pedro de Zegama y de San Juan Bautista de Orio y en ellos rezan también los devotos que los visitan. Una ermita, no aprobada por la Iglesia, es la cueva de Zelharburu situada en una montaña de Bidarray. En ella se veneraba una "santa" legendaria que, según se cree, quedó allí milagrosamente petrificada después de unas voces de amenaza "ago, ago", "aguarda, aguarda", que durante unas noches se dejaron oir en toda aquella comarca. La llaman Harpeko-Saindua o Harpeko-Saindia (La Santa de la cueva). El tema central de su leyenda es gemelo a uno de los temas del ciclo de Mari y el relato de su aparición es semejante al de Nuestra Señora del Puy que se localiza en una cueva próxima a Estella.