Glover började uppträda i slutet av 1970-talet. Han kan ha varit den första rapparen som kallade sig MC (master of ceremonies). Andra medlemmar i Furious Five var hans bror The Kidd Creole (Nathaniel Glover), Scorpio (Eddie Morris), Rahiem (Guy Todd Williams) och Cowboy (Keith Wiggins). Medan Cowboy var medlem i gruppen skapade han termen hip-hop när han retade en vän som just hade gått med i den amerikanska armén genom att sjunga orden ”hip/hop/hip/hip/hop” på ett sätt som efterliknade den rytmiska kadensen hos marscherande soldater.
Grandmaster Flash & The Furious Five började spela in för Enjoy Records och släppte ”Superrappin'” 1979. De gick senare vidare till Sugar Hill Records och var populära på RB-listorna med partylåtar som ”Freedom” och ”The Birthday Party”. De släppte många singlar, fick en guldskiva för ”Freedom” och turnerade. År 1982 började Melle Mel vända sig till mer socialt medvetna ämnen, särskilt Reaganadministrationens ekonomiska (Reaganomics) och drogpolitik, och deras effekt på det svarta samhället.
En låt ”The Message” blev en omedelbar klassiker och en av de första glimtarna av medveten hiphop. Mel spelade in en rap över sessionsmusikern Duke Bootees instrumentala spår ”The Jungle”. En del av Mels texter på ”The Message” togs direkt från ”Superrappin'”. Förutom Melle Mel finns inga medlemmar av Grandmaster Flash & The Furious Five med på skivan. Bootee bidrog också med sång (Rahiem skulle senare läppsynkronisera Bootees partier i musikvideon).
”The Message” blev platina på mindre än en månad och skulle senare bli den första hiphopskivan någonsin som lades till i USA:s National Archive of Historic Recordings och den första hiphopskivan som togs in i Grammy Hall of Fame. Mel skulle också fortsätta att skriva låtar om det kämpiga livet i New York City (”New York, New York”) och om att klara sig i livet i allmänhet (”Survival (The Message 2)”). Grandmaster Flash lämnade gruppen efter kontraktstvister mellan Melle Mel och deras promotor Sylvia Robinson angående royalties för ”The Message”. När Flash lämnade in en stämningsansökan mot Sugar Hill Records skilde sig fraktionerna i The Furious Five.
Mel blev känd som Grandmaster Melle Mel Mel och ledare för Furious Five. Gruppen fortsatte med att producera antidrogslåten ”White Lines (Don’t Don’t Do It)”. I en inofficiell musikvideo medverkade den uppåtsträvande skådespelaren Laurence Fishburne och regisserades av den då okände filmstudenten Spike Lee). Skivan krediterades felaktigt till ”Grandmaster + Melle Mel” av Sugar Hill Records för att lura allmänheten att tro att Grandmaster Flash hade medverkat på skivan.
Mel fick större berömmelse och framgång efter att ha medverkat i filmen Beat Street, med en låt baserad på filmens titel. Han utförde en minnesvärd rap på Chaka Khans succélåt ”I feel for you” som introducerade hiphop för en bredare och mer mainstream R&B-publik. Grandmaster Melle Mel & The Furious Five hade ytterligare hits med ”Step Off”, ”Pump Me Up”, ”King of the Streets”, ”Jesse” och ”Vice”, varav den sistnämnda släpptes på soundtracket till TV-serien Miami Vice. ”Jesse” var en mycket politisk låt som uppmanade folk att rösta på den dåvarande presidentkandidaten Jesse Jackson.
År 1988, efter nästan fyra års uppehåll, återförenades Mel och Flash och släppte albumet On The Strength, men i och med att uppåtsträvande artister från den nya skolan, som Eric B. & Rakim, DJ Jazzy Jeff & The Fresh Prince, Public Enemy, Boogie Down Productions och Big Daddy Kane dominerade hiphop-marknaden, misslyckades albumet kapitalt. Mel uppträdde med The King Dream Chorus och Holiday Crew på ”King Holiday” som syftade till att få Dr. Martin Luther King Jr:s födelsedag förklarad som en nationell helgdag. Mel uppträdde också med Artists United Against Apartheid på antiapartheidslåten ”Sun City” som syftade till att avskräcka andra artister från att uppträda i Sydafrika tills dess att landets regering upphörde med sin apartheidpolitik. Mel avslutade decenniet med att vinna två Grammy Awards för sitt arbete på Quincy Jones album Back On The Block och Q – The Autobiography of Quincy Jones.
1995 gjorde Duran Duran Duran en coverversion av ”White Lines” med framträdanden av Grandmaster Flash och Melle Mel och släppte den som den andra singeln från Duran Duran Duran-coversalbumet Thank You’:.
1996 bidrog Mel med sång till den amerikanska utgåvan av Chers hit ”One By One”. Deras version finns endast tillgänglig på maxi-CD-formatet.
1997 skrev Melle Mel kontrakt med Straight Game Records och släppte Right Now, ett album där Scorpio (från Furious Five) och Rondo medverkar. Detta album tog mer av en hårdare rap-stil. Det sålde knappt alls i USA och Storbritannien.
År 2001 släppte han under namnet Die Hard låten ”On Lock” tillsammans med Rondo på soundtracket till filmen Blazin. Die Hard släppte ett album med samma namn 2002 på 7PRecords.
Den 14 november 2006 samarbetade Mel med författaren Cricket Casey och släppte barnboken The Portal In The Park, som kommer med en bonus-CD med hans rappade berättelse. Den innehåller också två låtar, ”World Family Tree” och ”The Fountain of Truth”, av en då okänd Lady Gaga som uppträder tillsammans med Mel. Boken gavs ut på nytt 2010. År 2006 deltog Melle Mel också i en skola för professionell brottning. År 2007 (vid 45 års ålder) uppgav han i en intervju med allhiphop.com att ”jag ska försöka ta några av John Cenas pengar och gå med WWE och göra min grej”.
Den 30 januari 2007 släppte Mel sitt första soloalbum någonsin, Muscles. Den första singeln och musikvideon var ”M3 – The New Message”. Den 12 mars 2007 blev Melle Mel och The Furious Five (tillsammans med DJ Grandmaster Flash) den första rapgruppen någonsin som blev invald i Rock and Roll Hall of Fame. I sitt tacktal vädjade Mel till de närvarande medlemmarna i skivindustrin att göra mer för att återställa hiphop till den kultur av musik och konst som den en gång var, snarare än den kultur av våld som den har blivit. Han tillade: ”Jag har aldrig blivit skjuten, jag har aldrig blivit arresterad och jag har hållit på med hiphop i hela mitt liv. Jag kan inte förändra saker och ting helt själv. Vi behöver allas hjälp, så låt oss göra det och få det gjort.”
Den 10 oktober 2008 medverkade Mel i det Bronx-baserade kulinariska äventyrsprogrammet Bronx Flavor tillsammans med värden Baron Ambrosia. I avsnittet ”Night at the Bodega” uppträder han som en andlig mentor för att få baronen att ändra sig från sitt överdrivna överseende och få honom på rätt väg till framgång.
I april 2011 avslöjades det att han skulle delta i ett nytt hiphop/pro wrestling-samarbete, Urban Wrestling Federation. Dess första match ”First Blood” spelades in i juni 2011.
Mel medverkade även i Ice-T:s hiphopdokumentär Something from Nothing: The Art of Rap från 2012.
I augusti 2015 medverkade Mel tillsammans med Kool Moe Dee och Grandmaster Caz i Macklemore och Ryan Lewis sång och musikvideo ”Downtown”.
I maj 2016 uppträdde Mel och Scorpio, som Grandmaster’s Furious Five ft. Melle Mel & Scorpio, släppte sin singel ”Some Kind of Sorry”.