On sait très peu de choses sur la vie de Mansa Musa avant 1312. Cette année-là, il succède à son père, Abu Bakr II, sur le trône et obtient ainsi le titre héréditaire de mansa. Après cette date, il est assez bien couvert dans les tarikhs (chroniques musulmanes) d’Afrique du Nord et du Soudan occidental, qui racontent que son règne fut un âge d’or. Contrairement à son célèbre prédécesseur du XIIIe siècle, Sundiata, Musa est pratiquement oublié dans les traditions orales malinké.
De nombreux auteurs modernes estiment que l’importance de Musa dans l’histoire de l’Afrique de l’Ouest est exagérée en raison de la renommée qu’il a obtenue lors de son pèlerinage vraiment impressionnant à la Mecque en 1324-1325. D’autres monarques soudanais avaient entrepris ce pieux voyage au cours des siècles précédents, mais l’ampleur et l’opulence de la caravane de Musa ont eu un impact sur le Caire et la Mecque dont on s’est souvenu pendant des années. On dit qu’il était accompagné de 500 esclaves, chacun portant un bâton d’or de 4 livres, et de 80 chameaux avec 300 livres d’or chacun. Toute cette richesse a été dépensée ou donnée en aumône dans les villes arabes.
L’effet de cette soudaine surabondance d’or sur l’Égypte était une inflation encore observable 12 ans plus tard quand al-Umari a visité le Caire et a enregistré une grande partie de ce que nous savons maintenant sur Musa et Mali. La réputation établie par Musa en Égypte se répandit rapidement en Europe, où dès 1339, le Mali apparut sur une carte du monde avec le nom de Musa. Pendant les 6 siècles suivants, le nom du Mali fut associé par les Européens à une fabuleuse richesse.
L’accomplissement de son pèlerinage valut à Musa le titre convoité d’al-hajj, mais cette expérience lui apprit aussi beaucoup sur l’islam orthodoxe, et il retourna au Mali avec un fort désir d’y réformer l’islam. Il emmena avec lui des architectes et des érudits nord-africains pour mener à bien cette tâche, mais l’islam restait, comme auparavant, la religion des villes. La majorité de la population vivait à la campagne et continuait à suivre les croyances religieuses malinké.
Musa développa des liens diplomatiques avec les États nord-africains et facilita ainsi une croissance sans précédent du commerce transsaharien, qui à son tour enrichit et renforça encore le gouvernement impérial. Le commerce intérieur et l’agriculture s’épanouirent, et l’ordre et la prospérité constatés au Mali en 1352-1353 par le célèbre voyageur arabe Ibn Battuta étaient en grande partie attribuables au leadership éclairé de Musa plus tôt dans le siècle.
À sa mort en 1337, Musa fut succédé par son fils, Mansa Maghan (règne 1337-1341), qui avait gouverné pendant la visite de Musa à La Mecque et au Caire.