La mort de Mohammed fut une très grande perte pour la communauté musulmane. Pour ses fidèles, cet homme simple originaire de la Mecque avait été bien plus qu’un grand ami, qu’un habile administrateur, qu’un leader vénéré qui avait formé un nouvel État à partir de petites tribus en conflits perpétuels. Il avait aussi été l’exemple même des enseignements de Dieu qu’il leur avait transmis, des enseignements du Coran qui, depuis des siècles, guident la pensée, les actions, la foi et la conduite d’innombrables hommes et femmes, et qui ont marqué une nouvelle ère dans l’histoire de l’humanité. Sa mort, néanmoins, eut peu de répercussions sur la société dynamique qu’il avait fondée en Arabie et aucune répercussion sur sa mission, qui avait été de transmettre le Coran au monde entier. Comme le dit alors Abou Bakr, son plus proche compagnon : « Ceux qui adoraient Mohammed, qu’ils sachent que Mohammed est mort. Et ceux qui adoraient Dieu, qu’ils sachent que Dieu est vivant et ne meurt pas. »
La constitution de Médine (traité de Houdaybiyya) – sous laquelle les clans ayant accepté Mohammed comme prophète de Dieu formaient une alliance, ou fédération – date de cette période. Par elle, on voyait que la conscience politique de la communauté musulmane avait atteint un niveau important; ses membres se définissaient comme une communauté distincte de toutes les autres. La constitution définissait également le rôle des non-musulmans vivant au sein de la communauté musulmane. Les juifs, par exemple, faisaient partie de la communauté; ils étaient dhimmis, c’est-à-dire qu’ils jouissaient d’une protection particulière tant qu’ils se conformaient aux lois. Cela établit un précédent sur la façon de traiter les peuples conquis lors d’affrontements ultérieurs. On permettait aux chrétiens et aux juifs qui payaient une taxe symbolique de vivre pleinement leur religion; et, tout en maintenant leur statut de non-musulmans, ils étaient considérés comme membres-associés de l’État musulman. Ce statut n’était pas accordé aux polythéistes, qui ne pouvaient être tolérés au sein d’une communauté qui adorait un Dieu unique.
Ibn Ishaq, l’un des premiers biographes du Prophète, raconte que c’est à peu près à cette période que Mohammed envoya des lettres aux grands dirigeants de l’époque – le roi de Perse, l’empereur de Byzance, Négus d’Abyssinie et le gouverneur d’Égypte, entre autres – pour les inviter à embrasser l’islam. Rien n’illustre mieux la confiance et l’assurance de cette petite communauté, car son pouvoir militaire était alors négligeable. Mais son assurance n’était pas déplacée. Mohammed parvint à créer des alliances entre les tribus de façon si efficace qu’en 628, accompagné de mille cinq cents fidèles, il put revendiquer l’accès à la Ka’aba. Cela fut une étape très importante dans l’histoire de l’islam. À peine quelques années auparavant, Mohammed avait quitté la Mecque pour s’exiler à Médine et y établir un État islamique. Maintenant, ses anciens ennemis l’accueillaient comme un leader à part entière.
Un an plus tard, en 629, il revint à la Mecque et en fit la conquête définitive sans effusion de sang aucune et dans un esprit de tolérance et d’ouverture. Il détruisit toutes les idoles qu’il trouva à l’intérieur de la Ka’aba afin de mettre fin pour de bon aux pratiques païennes. C’est durant cette même période que ‘Amr ibn al-‘As, le futur conquérant d’Égypte, et Khalid ibn al-Walid, le futur « Sabre d’Allah », embrassèrent l’islam et prêtèrent serment d’allégeance à Mohammed. Leur conversion avait cela de remarquable que ces deux hommes avaient été parmi les ennemis les plus acharnés de Mohammed peu de temps auparavant.
D’une certaine façon, le retour de Mohammed à la Mecque fut le point culminant de sa mission. En l’an 632, c’est-à-dire trois ans plus tard, il tomba subitement malade et, une journée de juin, il mourut sur l’heure du midi, sa femme ‘Aisha à ses côtés.