Das Horomayr-Kloster befindet sich in der Region Lori, 1,5 Kilometer südöstlich des Dorfes Odzun. Der Komplex ist in zwei Teile gegliedert und liegt am linken Hang der Debed-Schlucht.
Das älteste der drei aneinandergrenzenden Bauwerke ist die mittlere Surb-Nshan-Kirche, die Zakare und Ivane Zakaryan im Jahr 1187 errichteten. Die südliche, dem Heiligen Sargis geweihte Kirche wurde 1201 hinzugefügt, der nördliche Kirchturm mit Glockenturm im Jahr 1290.
Der nördliche Eingang des Glockenturms ist von dekorativen Leisten im Flechtwerkstil eingerahmt. Zu beiden Seiten des Eingangs sind Engel eingemeißelt, darüber befindet sich ein Christusbildnis. In der Rotunde wechseln sich quadratische und achteckige Säulen ab, und die Spitzbögen bestehen aus gelblichem Felsit. Im unteren Komplex sind zudem in den Fels gehauene Zellen, Kapellen und Höhlen erhalten geblieben, die von den Mönchen zur Einsamkeit und zum Gebet genutzt wurden.
Die Kirchen, Kapellen, Höhlen und Grabbereiche wurden an das natürliche Relief angepasst. An einigen Stellen wurde der Fels selbst direkt Teil der Wand oder des Bodens eines Bauwerks.
Im oberen Komplex sticht der Narthex hervor. Die beiden Bögen, die seine Decke bilden, verlaufen diagonal und treffen sich in der Mitte. In die Ostwand des Narthexs sind drei ältere Khachkars eingelassen. Nach Angaben des Restaurierungsarchitekten Suren Abovyan könnte sich ursprünglich eine kleine Rotunde über dem Narthex befunden haben, die jedoch nicht rekonstruiert wurde.
Eine der ältesten datierten Erwähnungen von Horomayr bezieht sich auf das Jahr 773, als Kirakos Gandzaketsi David Horomayretsi unter den bedeutenden Vardapets (Gelehrtenpriestern) jener Zeit erwähnt.
Die Skriptoriumstätigkeit des Klosters setzte sich auch bis ins 17. Jahrhundert fort. Im Jahr 1658 vollendete der Priester Ohan die Abschrift des Mashtots (Ritualbuch) und des Evangeliums in der Surb-Nshan-Kirche des Dorfes Horomayr. Im Kolophon wird auch Bischof Poghos als Verwalter des Klosters erwähnt.
Obwohl historische Erwähnungen von Horomayr bis ins 7. und 8. Jahrhundert zurückreichen, wurden die meisten der heute noch erhaltenen Hauptgebäude während der Herrschaft der Zakaryans errichtet.