Malcolm X ascendió rápidamente en la Nación del Islam, una organización religiosa dirigida por Elijah Muhammad. Viajó por el país como ministro y portavoz, estableciendo nuevas mezquitas y abordando los disturbios civiles con su característica pasión y expresión elocuente, atrayendo un número récord de nuevos conversos. Durante este periodo de su vida se casó con Betty X (antes Sanders) en Lansing, Michigan, en 1958.
Aunque su mensaje se consideraba radical e incendiario, defendía activamente la limpieza moral, mental y espiritual como medio para liberar a su pueblo de la opresión.
Cuando Malcolm X descubrió que Elijah Muhammad mantenía en secreto relaciones con seguidoras y que había engendrado varios hijos, se desilusionó con el líder de la Nación del Islam.
Devastado por la hipocresía, Malcolm X dejó la NOI y formó su propia organización, Muslim Mosque, Inc. en marzo de 1964. Ese mismo año, realizó un peregrinaje religioso a La Meca; el viaje tuvo un profundo efecto en el activista, lo que le llevó a cambiar su nombre por el-Hajj Malik el-Shabazz y a reevaluar sus creencias.
Escribió en una carta: «Me preguntaron qué era lo que más me había impresionado del Hajj. … Yo dije: ‘¡La hermandad! La gente de todas las razas, de todos los colores, de todo el mundo, reunidos como uno solo’. Me ha demostrado el poder del Dios Único. … Todos comían como uno, y dormían como uno. Todo en el ambiente de la peregrinación acentuaba la Unidad del Hombre bajo un solo Dios».