Malcolm X maakte snel carrière in de Nation of Islam, een religieuze organisatie onder leiding van Elijah Muhammad. Hij reisde door het land als predikant en woordvoerder, stichtte nieuwe moskeeën en sprak de onrust onder de bevolking aan met zijn kenmerkende passie en welbespraaktheid, waardoor hij recordaantallen nieuwe bekeerlingen aantrok. Tijdens deze periode in zijn leven trouwde hij in 1958 in Lansing, Mich. met Betty X (voorheen Sanders).
Hoewel zijn boodschap als radicaal en opruiend werd gezien, huldigde hij actief morele, mentale en spirituele reinheid als middel om zijn volk te bevrijden van onderdrukking.
Toen Malcolm X ontdekte dat Elijah Muhammad in het geheim affaires had met vrouwelijke volgelingen en meerdere kinderen had verwekt, raakte hij gedesillusioneerd met de leider van de Nation of Islam.
Verontwaardigd door de hypocrisie verliet Malcolm X de NOI en richtte in maart 1964 zijn eigen organisatie op, Moslim Moskee, Inc. Datzelfde jaar maakte hij een religieuze pelgrimstocht naar Mekka; de reis had een diepgaand effect op de activist, waardoor hij zijn naam veranderde in el-Hajj Malik el-Shabazz en zijn overtuigingen heroverwoog.
Hij schreef in een brief: “Ze vroegen me wat van de hadj de meeste indruk op me had gemaakt. … Ik zei: ‘De broederschap! De mensen van alle rassen, kleur, van over de hele wereld die samenkomen als één!’ Het heeft mij de kracht van de Ene God bewezen. … Allen aten als één, en sliepen als één. Alles in de sfeer van de pelgrimstocht accentueerde de Eenheid van de mens onder Eén God.”