Βορειοδυτικά του Πυθαγορείου, σε μικρή απόσταση, μέσα σε μια μεγάλη σπηλιά βρίσκεται ένα μικρό εκκλησάκι που είναι αφιερωμένo στα Εισόδια της Θεοτόκου. Υπάρχει μια αρχαία μαρμάρινη εικόνα της Παναγίας, της οποίας όμως δεν διακρίνεται η μορφή.
Δίπλα στο εκκλησάκι υπάρχει Αγίασμα. Έξω από την σπηλιά υπάρχει εκκλησία αφιερωμένη στον Άγιο Γεώργιο και μερικά κελιά. Το μετόχι της Σπηλιανής ανήκει στο Μοναστήρι της Χοζοβιώτισσας της Αμοργού.
Η Σπηλιανή λέγεται από τους ντόπιους και Καληαρμένισσα.
Η πρόσβαση στο μοναστήρι γίνεται εύκολα με ιδιωτικό, ή νοικιασμένο αυτοκίνητο, ή μοτοσικλέτα από το Πυθαγόρειο, ακόμα και με ταξί.
