Glover begann in den späten 1970er Jahren aufzutreten. Er könnte der erste Rapper gewesen sein, der sich selbst als MC (Master of Ceremonies) bezeichnete. Weitere Mitglieder der Furious Five waren sein Bruder The Kidd Creole (Nathaniel Glover), Scorpio (Eddie Morris), Rahiem (Guy Todd Williams) und Cowboy (Keith Wiggins). Als Mitglied der Gruppe schuf Cowboy den Begriff Hip-Hop, als er einen Freund, der gerade der US-Armee beigetreten war, mit dem Scat-Gesang „hip/hop/hip/hop“ neckte, der die rhythmische Kadenz marschierender Soldaten nachahmte.
Grandmaster Flash & Die Furious Five begannen mit Aufnahmen für Enjoy Records und veröffentlichten 1979 „Superrappin'“. Später wechselten sie zu Sugar Hill Records und waren in den R&B-Charts mit Partysongs wie „Freedom“ und „The Birthday Party“ beliebt. Sie veröffentlichten zahlreiche Singles, bekamen eine goldene Schallplatte für „Freedom“ und gingen auf Tournee. 1982 begann Melle Mel, sich sozialeren Themen zuzuwenden, insbesondere der Wirtschafts- (Reaganomics) und Drogenpolitik der Reagan-Regierung und deren Auswirkungen auf die schwarze Gemeinschaft.
Der Song „The Message“ wurde ein sofortiger Klassiker und einer der ersten Schimmer von bewusstem Hip-Hop. Mel nahm einen Rap über das Instrumentalstück „The Jungle“ des Session-Musikers Duke Bootee auf. Einige von Mels Texten auf „The Message“ wurden direkt aus „Superrappin'“ übernommen. Außer Melle Mel sind keine Mitglieder von Grandmaster Flash & The Furious Five auf der Platte zu hören. Bootee steuerte ebenfalls Gesang bei (Rahiem sollte später Bootees Parts im Musikvideo lippensynchronisieren).
„The Message“ wurde in weniger als einem Monat mit Platin ausgezeichnet und war später die erste Hip-Hop-Platte, die in das United States National Archive of Historic Recordings aufgenommen wurde und die erste Hip-Hop-Platte, die in die Grammy Hall of Fame aufgenommen wurde. Mel schrieb später auch Songs über das schwierige Leben in New York City („New York, New York“) und über das Leben im Allgemeinen („Survival (The Message 2)“). Grandmaster Flash trennte sich von der Gruppe nach Vertragsstreitigkeiten zwischen Melle Mel und ihrer Promoterin Sylvia Robinson wegen der Tantiemen für „The Message“. Als Flash eine Klage gegen Sugar Hill Records einreichte, trennten sich die Fraktionen von The Furious Five.
Mel wurde als Grandmaster Melle Mel und Anführer der Furious Five bekannt. Die Gruppe produzierte daraufhin den Anti-Drogen-Song „White Lines (Don’t Don’t Do It)“. In einem inoffiziellen Musikvideo spielte der aufstrebende Schauspieler Laurence Fishburne die Hauptrolle, Regie führte der damals noch unbekannte Filmstudent Spike Lee.) Die Platte wurde von Sugar Hill Records fälschlicherweise „Grandmaster + Melle Mel“ zugeschrieben, um der Öffentlichkeit vorzugaukeln, dass Grandmaster Flash an der Platte mitgewirkt hatte.
Mel erlangte größeren Ruhm und Erfolg, nachdem er in dem Film Beat Street auftrat, mit einem Song, der auf dem Titel des Films basierte. Er sang einen denkwürdigen Rap auf Chaka Khans Hit „I Feel for You“, der den Hip-Hop einem breiteren R&B-Publikum vorstellte. Grandmaster Melle Mel & The Furious Five hatten weitere Hits mit „Step Off“, „Pump Me Up“, „King of the Streets“, „Jesse“ und „Vice“, wobei letzterer auf dem Soundtrack zur Fernsehserie Miami Vice veröffentlicht wurde. „Jesse“ war ein hochpolitischer Song, der die Leute dazu aufforderte, für den damaligen Präsidentschaftskandidaten Jesse Jackson zu stimmen.
Im Jahr 1988, nach einer fast vierjährigen Pause, kamen Mel und Flash wieder zusammen und veröffentlichten das Album „On The Strength“, aber da aufstrebende New-School-Künstler wie Eric B. & Rakim, DJ Jazzy Jeff & The Fresh Prince, Public Enemy, Boogie Down Productions und Big Daddy Kane den Hip-Hop-Markt dominierten, scheiterte das Album kläglich. Mel trat mit dem King Dream Chorus und der Holiday Crew auf „King Holiday“ auf, das darauf abzielte, den Geburtstag von Dr. Martin Luther King Jr. zum nationalen Feiertag zu erklären. Mel trat auch mit Artists United Against Apartheid mit dem Anti-Apartheid-Song „Sun City“ auf, der andere Künstler davon abhalten sollte, in Südafrika aufzutreten, bis die dortige Regierung ihre Apartheidpolitik beendete. Mel beendete das Jahrzehnt, indem er zwei Grammy Awards für seine Arbeit an den Alben Back On The Block und Q – The Autobiography of Quincy Jones gewann.
1995 machten Duran Duran eine Coverversion von „White Lines“, bei der Grandmaster Flash und Melle Mel mitwirkten, und veröffentlichten sie als zweite Single aus dem Duran Duran-Cover-Album Thank You‘:.
1996 steuerte Mel den Gesang für die US-Version von Chers Hit „One By One“ bei. Ihre Version ist nur im Maxi-CD-Format erhältlich.
1997 unterschrieb Melle Mel bei Straight Game Records und veröffentlichte Right Now, ein Album mit Scorpio (von den Furious Five) und Rondo. Dieses Album schlug eher einen härteren Rap-Stil ein. Es verkaufte sich in den USA und Großbritannien kaum.
Im Jahr 2001 veröffentlichte er unter dem Namen Die Hard den Song „On Lock“ mit Rondo auf dem Soundtrack des Films Blazin. Die Hard veröffentlichte 2002 ein gleichnamiges Album auf 7PRecords.
Am 14. November 2006 veröffentlichte Mel in Zusammenarbeit mit der Autorin Cricket Casey das Kinderbuch „The Portal In The Park“, das mit einer Bonus-CD mit seiner gerappten Erzählung versehen ist. Außerdem enthält es zwei Songs, „World Family Tree“ und „The Fountain of Truth“, die von einer damals noch unbekannten Lady Gaga mit Mel gesungen wurden. Das Buch wurde 2010 neu aufgelegt. Ebenfalls im Jahr 2006 besuchte Melle Mel eine professionelle Wrestling-Schule. Im Jahr 2007 (im Alter von 45 Jahren) erklärte er in einem Interview mit allhiphop.com, dass „ich versuchen werde, etwas von John Cenas Geld zu nehmen und bei der WWE mein Ding zu machen“.
Am 30. Januar 2007 veröffentlichte Mel sein erstes Soloalbum Muscles. Die erste Single und das Musikvideo war „M3 – The New Message“. Am 12. März 2007 wurden Melle Mel und The Furious Five (zusammen mit DJ Grandmaster Flash) als erste Rap-Gruppe überhaupt in die Rock and Roll Hall of Fame aufgenommen. In seiner Dankesrede forderte Mel die anwesenden Mitglieder der Plattenindustrie auf, mehr dafür zu tun, dass der Hip-Hop wieder zu der Musik- und Kunstkultur wird, die er einst war, und nicht zu der Gewaltkultur, zu der er geworden ist. Er fügte hinzu: „Ich wurde noch nie angeschossen, ich wurde noch nie verhaftet, und ich habe mein ganzes Leben lang Hip-Hop gemacht. Ich kann die Dinge nicht allein ändern. Wir brauchen die Hilfe aller, also lasst es uns tun und diese Sache zu Ende bringen.“
Am 10. Oktober 2008 trat Mel in der in der Bronx ansässigen kulinarischen Abenteuershow Bronx Flavor an der Seite von Moderator Baron Ambrosia auf. In der Episode „Night at the Bodega“ tritt er als spiritueller Mentor auf, um den Baron von seinem maßlosen Verhalten abzubringen und ihn auf den richtigen Weg zum Erfolg zu bringen.
Im April 2011 wurde bekannt, dass er an einer neuen Hip-Hop/Pro-Wrestling-Kooperation, der Urban Wrestling Federation, teilnehmen würde. Der erste Kampf „First Blood“ wurde im Juni 2011 aufgezeichnet.
Mel trat auch in Ice-Ts Hip-Hop-Dokumentation „Something from Nothing: The Art of Rap“ aus dem Jahr 2012 auf.
Im August 2015 trat Mel zusammen mit Kool Moe Dee und Grandmaster Caz in dem Song und Musikvideo „Downtown“ von Macklemore und Ryan Lewis auf.
Im Mai 2016 traten Mel und Scorpio als Grandmaster’s Furious Five ft. Melle Mel & Scorpio, veröffentlichten ihre Single „Some Kind of Sorry“.