Väldigt lite är känt om Mansa Musas liv före 1312. Det året efterträdde han sin far, Abu Bakr II, på tronen och fick därmed den ärftliga titeln mansa. Efter denna tidpunkt är han ganska väl täckt i tarikhs (muslimska krönikor) i Nordafrika och västra Sudan, som berättar om hans regeringstid som en guldålder. I motsats till sin berömda föregångare Sundiata från 1200-talet är Musa praktiskt taget bortglömd i de muntliga traditionerna från Malinke.
Många moderna författare anser att Musas betydelse i den västafrikanska historien är överdriven på grund av den berömmelse han fick under sin verkligt imponerande pilgrimsfärd till Mecka 1324-1325. Andra sudanesiska monarker hade företrätt den fromma resan under tidigare århundraden, men själva omfattningen och överflödet av Musas karavan gjorde ett intryck på Kairo och Mecka som man mindes i åratal. Han sägs ha åtföljts av 500 slavar, som var och en bar en 4-punds stav av guld, och 80 kameler med 300 pund guld vardera. Alla dessa rikedomar spenderades eller gavs ut som allmosor i de arabiska städerna.
Effekten av detta plötsliga överflöd av guld i Egypten var en inflation som fortfarande kunde observeras 12 år senare när al-Umari besökte Kairo och antecknade mycket av det som vi nu vet om Musa och Mali. Det rykte som Musa etablerade i Egypten spred sig snart till Europa, där Mali redan 1339 dök upp på en världskarta tillsammans med Musas namn. Under de följande sex århundradena förknippades namnet Mali med sagolika rikedomar av européerna.
Att fullfölja sin pilgrimsfärd gav Musa den eftertraktade titeln al-hajj, men denna erfarenhet lärde honom också mycket om ortodox islam, och han återvände till Mali med en stark önskan att reformera islam där. Han tog med sig nordafrikanska arkitekter och lärda för att utföra denna uppgift, men islam förblev, som tidigare, städernas religion. Majoriteten av folket bodde på landsbygden och fortsatte att följa malinke-religionen.
Musa utvecklade diplomatiska förbindelser med de nordafrikanska staterna och underlättade på så sätt en aldrig tidigare skådad tillväxt av den transsahariska handeln, som i sin tur ytterligare berikade och stärkte den kejserliga regeringen. Den interna handeln och jordbruket blomstrade, och den ordning och det välstånd som den berömde arabiske resenären Ibn Battuta fann i Mali 1352-1353 kunde till stor del tillskrivas Musas upplysta ledarskap tidigare under århundradet.
När Musa avled 1337 efterträddes han av sin son, Mansa Maghan (regerade 1337-1341), som hade regerat under Musas besök i Mecka och Kairo.