Malcolm X steg hurtigt i Nation of Islam, en religiøs organisation under ledelse af Elijah Muhammad. Han rejste rundt i landet som præst og talsmand, etablerede nye moskeer og tog fat på borgerlige uroligheder med sin karakteristiske lidenskab og velformulerede udtryk, hvilket tiltrak et rekordstort antal nye konvertitter. I denne periode i sit liv giftede han sig med Betty X (tidligere Sanders) i Lansing, Mich. i 1958.
Og selv om hans budskab blev betragtet som radikalt og opflammende, gik han aktivt ind for moralsk, mental og åndelig renlighed som et middel til at befri sit folk fra undertrykkelse.
Da Malcolm X opdagede, at Elijah Muhammad i hemmelighed havde affærer med kvindelige tilhængere og havde avlet flere børn, blev han desillusioneret over Nation of Islams leder.
Udslået af hykleriet forlod Malcolm X NOI og dannede sin egen organisation, Muslim Mosque, Inc. i marts 1964. Samme år foretog han en religiøs pilgrimsrejse til Mekka; rejsen havde en dybtgående effekt på aktivisten, hvilket fik ham til at ændre sit navn til el-Hajj Malik el-Shabazz og revurdere sin tro.
Han skrev i et brev: Han skrev i et brev: “De spurgte mig, hvad der havde gjort størst indtryk på mig ved Hajj. … Jeg svarede: ‘Broderskabet! Folk af alle racer, alle farver, fra hele verden, der kom sammen som én! Det har bevist for mig den ene Guds magt. … Alle spiste som én, og alle sov som én. Alt ved pilgrimsrejseatmosfæren understregede menneskets enhed under Én Gud.”