La légende fait remonter l'histoire de Chah-i-Zinda à l'an 676, c'est-à-dire à l'arrivée de Koussam-ibn-Abbas, le cousin germain du Prophète Mohammad, venu convertir la Sogdiane zoroastrienne à l'islam. Le succès de sa prédication aurait conduit, en réaction, une bande d'adorateurs du feu à le décapiter alors qu'il était en prière. L'histoire continue que, portant sa tête dans les mains et dirigé par le prophète Khizr, Koussam-ibn-Abbas serait descendu dans un puits où il réside éternellement dans un paradis souterrain dont il ressortira vivant à la fin des temps. Ce sanctuaire marquerait l'emplacement du palais souterrain. En fait, il semblerait plutôt que les Arabes introduisirent Koussam, qui n'a probablement jamais mis les pieds à Samarcande, dans le culte de Chah-i-Zinda ("Le Roi vivant") en récupérant la figure mythique d'un seigneur pré-islamique, sans doute Afrasiab, qui régnait sur terre depuis l'au-delà.