マルコムXは、イライジャ・ムハンマド率いる宗教団体「ネーション・オブ・イスラム」で急速に頭角を現した。 彼は牧師やスポークスマンとなって全国を回り、新しいモスクを設立し、彼特有の情熱と明晰な表現で市民不安を訴え、記録的な数の新しい改宗者を集めました。 この時期、彼は1958年にミシガン州ランシングでベティX（旧姓サンダース）と結婚しました。
彼のメッセージは過激で扇情的と見られていましたが、彼は人々を抑圧から解放する手段として、道徳、精神、霊的清浄を積極的に支持しました。
偽善に打ちのめされたマルコムXは、1964年3月にNOIを脱退し、自らの組織であるムスリムモスク社を結成します。 同年、彼はメッカへの宗教的巡礼を行いました。この旅は活動家に大きな影響を与え、彼は自分の名前をel-Hajj Malik el-Shabazzと変え、自分の信念を再評価するように促しました
彼は手紙にこう書いています。 「彼らは私に、ハッジの中で何が一番印象的だったかと尋ねました。 私は「兄弟愛だ！」と答えた。 という質問に対して、「兄弟愛だ！世界中のあらゆる人種、肌の色の人々がひとつになるんだ！」と答えました。 それは私に、唯一の神の力を証明したのです。 ……みんな、一つになって食べ、一つになって眠った。 巡礼の雰囲気のすべてが、唯一の神のもとでの人間の一体感を際立たせていたのです」

。