Glover comenzó a actuar a finales de la década de 1970. Es posible que haya sido el primer rapero en llamarse a sí mismo MC (maestro de ceremonias). Otros miembros de Furious Five eran su hermano The Kidd Creole (Nathaniel Glover), Scorpio (Eddie Morris), Rahiem (Guy Todd Williams) y Cowboy (Keith Wiggins). Mientras era miembro del grupo, Cowboy creó el término hip-hop mientras se burlaba de un amigo que acababa de alistarse en el ejército de los Estados Unidos, cantando las palabras «hip/hop/hip/hop» de una manera que imitaba la cadencia rítmica de los soldados en marcha.
Grandmaster Flash & The Furious Five comenzó a grabar para Enjoy Records y lanzó «Superrappin'» en 1979. Más tarde pasaron a Sugar Hill Records y fueron populares en las listas de RB con canciones de fiesta como «Freedom» y «The Birthday Party». Lanzaron numerosos singles, consiguiendo un disco de oro por «Freedom», y haciendo giras. En 1982, Melle Mel empezó a tratar temas con mayor conciencia social, en particular las políticas económicas (Reaganomics) y de drogas de la administración Reagan, y su efecto en la comunidad negra.
Una canción, «The Message», se convirtió en un clásico instantáneo y en uno de los primeros atisbos de hip-hop consciente. Mel grabó un rap sobre el tema instrumental «The Jungle» del músico de sesión Duke Bootee. Algunas de las letras de Mel en «The Message» fueron tomadas directamente de «Superrappin'». Aparte de Melle Mel, ningún miembro de Grandmaster Flash & The Furious Five aparece en el disco. Bootee también contribuyó con sus voces (Rahiem haría más tarde la sincronización de labios de Bootee en el vídeo musical).
«The Message» se convirtió en disco de platino en menos de un mes y más tarde sería el primer disco de hip-hop incluido en el Archivo Nacional de Grabaciones Históricas de Estados Unidos y el primer disco de hip-hop incluido en el Salón de la Fama de los Grammy. Mel también escribiría canciones sobre la vida de lucha en la ciudad de Nueva York («New York, New York»), y sobre cómo salir adelante en la vida en general («Survival (The Message 2)»). Grandmaster Flash se separó del grupo tras las disputas contractuales entre Melle Mel y su promotora Sylvia Robinson en relación con los derechos de autor de «The Message». Cuando Flash presentó una demanda contra Sugar Hill Records, las facciones de The Furious Five se separaron.
Mel pasó a ser conocido como Grandmaster Melle Mel y líder de The Furious Five. El grupo llegó a producir la canción antidroga «White Lines (Don’t Don’t Do It)». Un vídeo musical no oficial fue protagonizado por el prometedor actor Laurence Fishburne y dirigido por el entonces desconocido estudiante de cine Spike Lee). El disco fue acreditado falsamente a «Grandmaster + Melle Mel» por Sugar Hill Records para engañar al público haciéndole creer que Grandmaster Flash había participado en el disco.
Mel ganó mayor fama y éxito tras aparecer en la película Beat Street, con una canción basada en el título de la película. Interpretó un memorable rap en la exitosa canción de Chaka Khan «I Feel for You», que introdujo el hip hop a un público más amplio y mayoritario de R&B. Grandmaster Melle Mel Los Cinco Furiosos tuvieron más éxitos con «Step Off», «Pump Me Up», «King of the Streets», «Jesse» y «Vice», este último publicado en la banda sonora de la serie de televisión Miami Vice. «Jesse» era una canción muy política que instaba a la gente a votar por el entonces candidato presidencial Jesse Jackson.
En 1988, después de una pausa de casi 4 años, Mel y Flash se reunieron y lanzaron el álbum On The Strength, pero con artistas emergentes de la nueva escuela como Eric B. & Rakim, DJ Jazzy Jeff & The Fresh Prince, Public Enemy, Boogie Down Productions, y Big Daddy Kane dominando el mercado del hip-hop, el álbum fracasó miserablemente. Mel actuó con The King Dream Chorus y Holiday Crew en «King Holiday», cuyo objetivo era que el cumpleaños del Dr. Martin Luther King Jr. fuera declarado fiesta nacional. Mel también actuó con Artists United Against Apartheid en la canción contra el apartheid «Sun City», cuyo objetivo era disuadir a otros artistas de actuar en Sudáfrica hasta que su gobierno pusiera fin a su política de apartheid. Mel terminó la década ganando dos premios Grammy por su trabajo en los álbumes Back On The Block y Q – The Autobiography of Quincy Jones.
En 1995 Duran Duran hizo una versión de «White Lines» con las actuaciones de Grandmaster Flash y Melle Mel y la lanzó como el segundo sencillo del álbum de versiones de Duran Duran Thank You’:.
En 1996, Mel contribuyó con voces a la edición estadounidense del éxito de Cher «One By One». Su versión sólo está disponible en el formato maxi CD.
En 1997, Melle Mel firmó con Straight Game Records y lanzó Right Now, un álbum en el que participaron Scorpio (de los Furious Five) y Rondo. Este álbum adoptó un estilo de rap más duro. Apenas se vendió en Estados Unidos y el Reino Unido.
En 2001, bajo el nombre de Die Hard, lanzó la canción «On Lock» con Rondo en la banda sonora de la película Blazin. Die Hard lanzó un álbum con el mismo nombre en 2002 en 7PRecords.
El 14 de noviembre de 2006, Mel colaboró con el autor Cricket Casey y lanzó el libro para niños The Portal In The Park, que viene con un CD extra con su narración rapeada. También incluye dos canciones, «World Family Tree» y «The Fountain of Truth», de una entonces desconocida Lady Gaga que actúa con Mel. El libro se reeditó en 2010. También en 2006, Melle Mel asistió a una escuela de lucha libre profesional. En 2007 (a la edad de 45 años), declaró en una entrevista con allhiphop.com que «voy a intentar coger algo del dinero de John Cena y meterme en la WWE y hacer lo mío».
El 30 de enero de 2007, Mel lanzó su primer álbum en solitario, Muscles. El primer single y vídeo musical fue «M3 – The New Message». El 12 de marzo de 2007, Melle Mel y The Furious Five (junto con DJ Grandmaster Flash) se convirtieron en el primer grupo de rap que entraba en el Salón de la Fama del Rock and Roll. En su discurso de aceptación, Mel imploró a los miembros de la industria discográfica presentes que hicieran más por devolver al hip hop la cultura musical y artística que una vez fue, en lugar de la cultura de la violencia en la que se ha convertido. Añadió: «Nunca me han disparado, nunca me han arrestado, y he estado haciendo hip hop toda mi vida. No puedo cambiar las cosas yo solo. Necesitamos la ayuda de todos, así que hagámoslo y hagamos esto».
El 10 de octubre de 2008, Mel apareció en el programa de aventuras culinarias Bronx Flavor, con sede en el Bronx, junto al presentador Baron Ambrosia. En el episodio «Night at the Bodega», aparece como mentor espiritual para apartar al Barón de sus costumbres excesivamente indulgentes y ponerlo en el camino correcto hacia el éxito.
En abril de 2011, se reveló que participaría en una nueva colaboración entre el hip hop y la lucha libre, la Urban Wrestling Federation. Su primer combate «First Blood» se grabó en junio de 2011.
Mel también apareció en el documental de hip hop de 2012 de Ice-T Something from Nothing: The Art of Rap.
En agosto de 2015, Mel apareció con Kool Moe Dee y Grandmaster Caz en la canción y el vídeo musical de Macklemore y Ryan Lewis «Downtown».
En mayo de 2016, Mel y Scorpio, actuando como Grandmaster’s Furious Five ft. Melle Mel & Scorpio, lanzaron su sencillo «Some Kind of Sorry».