Malcolm X se rychle vypracoval v náboženské organizaci Islámský národ, kterou vedl Elijah Muhammad. Cestoval po zemi jako duchovní a mluvčí, zakládal nové mešity a řešil občanské nepokoje se svým charakteristickým zápalem a výmluvným projevem, čímž přilákal rekordní počet nových konvertitů. V tomto období svého života se v roce 1958 v Lansingu ve státě Michiganu oženil s Betty X (dříve Sandersovou).
Ačkoli bylo jeho poselství považováno za radikální a podnětné, aktivně se zasazoval o morální, duševní a duchovní čistotu jako prostředek k osvobození svého lidu od útlaku.
Když Malcolm X zjistil, že Elijah Muhammad měl tajné pletky se svými stoupenkyněmi a zplodil s nimi několik dětí, začal být vůdcem Islámského národa rozčarován.
Znechucen pokrytectvím Malcolm X opustil NOI a v březnu 1964 založil vlastní organizaci Muslim Mosque, Inc. Téhož roku se vydal na náboženskou pouť do Mekky; tato cesta měla na aktivistu hluboký vliv a přiměla ho změnit si jméno na el-Hajj Malik el-Shabazz a přehodnotit své přesvědčení.
V dopise napsal: „Malcolm Malik el-Shabazz se rozhodl, že se bude chtít vrátit do Mekky: „Ptali se mě, co na mě na hadždži udělalo největší dojem. … Odpověděl jsem: ‚Bratrství! Lidé všech ras, barev pleti, z celého světa, kteří se sešli jako jeden celek!“. Ukázalo mi to sílu jediného Boha. … Všichni jedli jako jeden a spali jako jeden. Všechno v atmosféře pouti zdůrazňovalo Jednotu člověka pod Jediným Bohem.“

.