Glover begyndte at optræde i slutningen af 1970’erne. Han kan have været den første rapper, der kaldte sig selv MC (master of ceremonies). Andre Furious Five-medlemmer var bl.a. hans bror The Kidd Creole (Nathaniel Glover), Scorpio (Eddie Morris), Rahiem (Guy Todd Williams) og Cowboy (Keith Wiggins). Mens Cowboy var medlem af gruppen, skabte han udtrykket hip-hop, da han drillede en ven, der lige var gået ind i den amerikanske hær, ved at scat-sange ordene “hip/hop/hip/hip/hop” på en måde, der efterlignede den rytmiske kadence fra marcherende soldater.
Grandmaster Flash & The Furious Five begyndte at indspille for Enjoy Records og udgav “Superrappin'” i 1979. De flyttede senere videre til Sugar Hill Records og var populære på R&B-listerne med festsange som “Freedom” og “The Birthday Party”. De udgav adskillige singler og fik en guldskive for “Freedom”, og de turnerede. I 1982 begyndte Melle Mel at vende sig mod mere socialt bevidste emner, især Reagan-administrationens økonomiske (Reaganomics) og narkotikapolitik og deres virkning på det sorte samfund.
En sang “The Message” blev en øjeblikkelig klassiker og et af de første glimt af bevidst hiphop. Mel indspillede en rap over sessionsmusikeren Duke Bootee’s instrumentale nummer “The Jungle”. Nogle af Mel’s tekster på “The Message” var taget direkte fra “Superrappin'”. Ud over Melle Mel optræder ingen medlemmer af Grandmaster Flash The Furious Five faktisk på pladen. Bootee bidrog også med vokal (Rahiem skulle senere læbesynkronisere Bootees dele i musikvideoen).
“The Message” blev platin på mindre end en måned og blev senere den første hiphop-plade nogensinde, der blev optaget i USA’s National Archive of Historic Recordings, og den første hiphop-plade, der blev optaget i Grammy Hall of Fame. Mel fortsatte også med at skrive sange om at kæmpe for livet i New York City (“New York, New York”) og om at klare sig igennem livet generelt (“Survival (The Message 2)”). Grandmaster Flash gik fra gruppen efter kontraktstridigheder mellem Melle Mel og deres promoter Sylvia Robinson om royalties for “The Message”. Da Flash lagde sag an mod Sugar Hill Records, skiltes fraktionerne i The Furious Five.
Mel blev kendt som Grandmaster Melle Mel Mel og leder af The Furious Five. Gruppen fortsatte med at producere anti-drugssangen “White Lines (Don’t Don’t Do It)”. En uofficiel musikvideo havde den kommende skuespiller Laurence Fishburne i hovedrollen og blev instrueret af den dengang ukendte filmstuderende Spike Lee). Pladen blev fejlagtigt krediteret “Grandmaster + Melle Mel” af Sugar Hill Records for at narre offentligheden til at tro, at Grandmaster Flash havde medvirket på pladen.
Mel opnåede større berømmelse og succes efter at have medvirket i filmen Beat Street, med en sang baseret på filmens titel. Han optrådte med en mindeværdig rap på Chaka Khans kæmpehit “I Feel for You”, som introducerede hiphop til et bredere og mere mainstream R&B-publikum. Grandmaster Melle Mel & The Furious Five havde yderligere hits med “Step Off”, “Pump Me Up”, “King of the Streets”, “Jesse” og “Vice”, hvoraf sidstnævnte blev udgivet på soundtracket til tv-serien Miami Vice. “Jesse” var en meget politisk sang, der opfordrede folk til at stemme på den daværende præsidentkandidat Jesse Jackson.
I 1988, efter en næsten fireårig pause, genforenedes Mel og Flash og udgav albummet On The Strength, men med opadstormende new school-kunstnere som Eric B. & Rakim, DJ Jazzy Jeff & The Fresh Prince, Public Enemy, Boogie Down Productions og Big Daddy Kane, der dominerede hiphopmarkedet, slog albummet elendigt fejl. Mel optrådte sammen med The King Dream Chorus og Holiday Crew på “King Holiday”, der havde til formål at få erklæret Dr. Martin Luther King Jr.’s fødselsdag for en national helligdag. Mel optrådte også sammen med Artists United Against Apartheid på antiapartheid-sangen “Sun City”, der havde til formål at afskrække andre kunstnere fra at optræde i Sydafrika, indtil landets regering ophørte med sin apartheidpolitik. Mel afsluttede årtiet med at vinde to Grammy Awards for sit arbejde på Quincy Jones’ album Back On The Block og Q – The Autobiography of Quincy Jones.
I 1995 lavede Duran Duran Duran en coverversion af “White Lines” med Grandmaster Flash og Melle Mel og udgav den som den anden single fra Duran Durans coveralbum Thank You’:.
I 1996 bidrog Mel med vokal til den amerikanske udgave af Cher’s hit “One By One”. Deres version er kun tilgængelig på maxi-cd-formatet.
I 1997 skrev Melle Mel under på Straight Game Records og udgav Right Now, et album, der indeholder Scorpio (fra Furious Five) og Rondo. Dette album tog mere af en hårdere rap stil. Det solgte næsten ikke i USA og Storbritannien.
I 2001 udgav han under navnet Die Hard sangen “On Lock” sammen med Rondo på soundtracket til filmen Blazin, under navnet Die Hard. Die Hard udgav et album af samme navn i 2002 på 7PRecords.
Den 14. november 2006 samarbejdede Mel med forfatteren Cricket Casey og udgav børnebogen The Portal In The Park, som kommer med en bonus-cd med hans rappede fortælling. Den indeholder også to sange, “World Family Tree” og “The Fountain of Truth”, af en dengang ukendt Lady Gaga, der optræder sammen med Mel. Bogen blev genudgivet i 2010. I 2006 deltog Melle Mel også i en professionel wrestlingskole. I 2007 (i en alder af 45 år) udtalte han i et interview med allhiphop.com, at “jeg vil forsøge at tage nogle af John Kenas penge og komme med WWE og gøre min ting”.
Den 30. januar 2007 udgav Mel sit første soloalbum nogensinde, Muscles. Den første single og musikvideo var “M3 – The New Message”. Den 12. marts 2007 blev Melle Mel og The Furious Five (sammen med DJ Grandmaster Flash) den første rapgruppe nogensinde, der blev optaget i Rock and Roll Hall of Fame. I sin takketale bønfaldt Mel de tilstedeværende medlemmer af pladeindustrien om at gøre mere for at genoprette hiphop til den kultur af musik og kunst, som den engang var, i stedet for den kultur af vold, som den er blevet til. Han tilføjede: “Jeg er aldrig blevet skudt, jeg er aldrig blevet arresteret, og jeg har lavet hiphop hele mit liv. Jeg kan ikke ændre tingene helt alene. Vi har brug for alles hjælp, så lad os gøre det og få det her gjort.”
Den 10. oktober 2008 optrådte Mel i det Bronx-baserede kulinariske eventyrprogram Bronx Flavor sammen med værten Baron Ambrosia. I afsnittet “Night at the Bodega” optræder han som en åndelig mentor, der skal få baronen til at ændre sin overforbrugte livsstil og få ham på rette vej til succes.
I april 2011 blev det afsløret, at han ville deltage i et nyt hiphop/pro wrestling-samarbejde, Urban Wrestling Federation. Dens første kamp “First Blood” blev optaget i juni 2011.
Mel optrådte også i Ice-T’s hiphopdokumentarfilm “Something from Nothing: The Art of Rap” fra 2012.
I august 2015 optrådte Mel sammen med Kool Moe Dee og Grandmaster Caz i Macklemore og Ryan Lewis’ sang og musikvideo “Downtown”.
I maj 2016 optrådte Mel og Scorpio, der optrådte som Grandmaster’s Furious Five ft. Melle Mel & Scorpio, udgav deres single “Some Kind of Sorry”.