Mahomet donna alors sa fille Fâtima en mariage à ‘Alî, faisant ainsi de celui-ci le père de sa seule descendance mâle en la personne de ses deux petits-fils, Hassan et Hossein. Tout cela faisait de ‘Alî une figure partageant pleinement la sacralité de Mahomet et le désignait naturellement comme son seul légataire et donc son seul successeur légitime.
Si le règne d'‘Alî est considéré par les shî'ites comme un véritable âge d'or, il fut de courte durée. Il dut faire face à plusieurs rébellions : la première menée par Aïcha, la veuve du Prophète, qui désirait venger l'assassinat du troisième calife Osman. Elle fut matée à la bataille dite "du Chameau" près de Bassorah. Une deuxième rébellion l'opposa au gouverneur de Syrie, Mu‘âwiya, un cousin d'Osman. Déchu, ‘Alî dut néanmoins faire face à la rébellion des khâridjites sur lesquels il remporta la victoire. Mais c'est l'un d'eux qui l'assassina à Koufa, en 661. Selon la tradition shî'ite, un mouvement destiné à rétablir la lignée d'‘Alî au califat se développa rapidement. C'est de ce mouvement, le shi'at ‘Alî ou "parti d'‘Alî" que dérive le mot "shî'isme".
En 680, après la mort de son frère Hassan, le second fils d'‘Alî, Hossein, prit la tête d'une rébellion contre le calife Yazïd. Sur la route de Koufa, il fut obligé de bivouaquer à Kerbala, une oasis dans le désert. Le dixième jour du mois lunaire de moharram, l'armée du calife attaqua, massacrant Hossein et les siens. Par la suite, Hossein allait devenir le symbole par excellence de la résistance shî'ite et de la lutte pour la justice.
