Le somptueux pishtaq (portique) d'entrée, culminant à 35 mètres, menait à une cour marquée d'un minaret à chaque angle. Le complexe comprenait quatre galeries pavées de marbre et couvertes de 400 coupoles supportées par 400 colonnes de marbre. Des tremblements de terre accélérèrent la déchéance de l'édifice construit à la hâte sur des fondations inadéquates. Il fut durablement endommagé par le séisme de 1897 avant d'être partiellement relevé par le gouvernement soviétique en 1974. Plusieurs campagnes de restauration ont été menées depuis lors afin de préserver au mieux le sanctuaire.