Glover begon eind jaren zeventig op te treden. Hij was misschien wel de eerste rapper die zichzelf MC (master of ceremonies) noemde. Andere leden van Furious Five waren zijn broer The Kidd Creole (Nathaniel Glover), Scorpio (Eddie Morris), Rahiem (Guy Todd Williams) en Cowboy (Keith Wiggins). Toen hij lid was van de groep, creëerde Cowboy de term hip-hop terwijl hij een vriend plaagde die net in het Amerikaanse leger was gegaan, door de woorden “hip/hop/hip/hop” te scatten op een manier die de ritmische cadans van marcherende soldaten nabootste.
Grandmaster Flash & The Furious Five begonnen op te nemen voor Enjoy Records en brachten “Superrappin'” uit in 1979. Later verhuisden ze naar Sugar Hill Records en waren populair in de R&B charts met feestnummers als “Freedom” en “The Birthday Party”. Ze brachten talrijke singles uit, wonnen een gouden schijf voor “Freedom,” en toerden. In 1982 begon Melle Mel zich te richten op meer sociaal-bewuste onderwerpen, in het bijzonder het economische (Reaganomics) en drugsbeleid van de regering Reagan, en hun effect op de zwarte gemeenschap.
Een nummer “The Message” werd een instant klassieker en een van de eerste glimp van bewuste hip-hop. Mel nam een rap op over het instrumentale nummer “The Jungle” van sessiemuzikant Duke Bootee. Sommige van Mel’s teksten op “The Message” waren rechtstreeks afkomstig uit “Superrappin'”. Behalve Melle Mel zijn er geen leden van Grandmaster Flash & The Furious Five te horen op de plaat. Bootee heeft ook vocalen bijgedragen (Rahiem zou later Bootee’s stukken lip syncen in de videoclip).
“The Message” ging platina in minder dan een maand en zou later de eerste hip-hop plaat ooit zijn die werd toegevoegd aan het United States National Archive of Historic Recordings en de eerste Hip Hop plaat die werd opgenomen in de Grammy Hall of Fame. Mel zou ook nummers gaan schrijven over het worstelende leven in New York City (“New York, New York”), en het maken van het leven in het algemeen (“Survival (The Message 2)”). Grandmaster Flash splitste zich af van de groep na contractgeschillen tussen Melle Mel en hun promotor Sylvia Robinson met betrekking tot royalties voor “The Message”. Toen Flash een rechtszaak aanspande tegen Sugar Hill Records, gingen de facties van The Furious Five uit elkaar.
Mel werd bekend als Grandmaster Melle Mel en de leider van de Furious Five. De groep produceerde het anti-drugs nummer “White Lines (Don’t Don’t Do It)”. Een onofficiële videoclip met in de hoofdrol opkomend acteur Laurence Fishburne en geregisseerd door de toen nog onbekende filmstudent Spike Lee). De plaat werd valselijk gecrediteerd door “Grandmaster + Melle Mel” door Sugar Hill Records om het publiek te laten geloven dat Grandmaster Flash had meegewerkt aan de plaat.
Mel kreeg meer bekendheid en succes na zijn verschijning in de film Beat Street, met een nummer gebaseerd op de titel van de film. Hij deed een memorabele rap op Chaka Khan’s hit “I Feel for You” die hip hop introduceerde bij een breder en meer mainstream R&B publiek. Grandmaster Melle Mel & The Furious Five had nog meer hits met “Step Off”, “Pump Me Up”, “King of the Streets”, “Jesse”, en “Vice”, de laatste werd uitgebracht op de soundtrack van de TV show Miami Vice. “Jesse” was een zeer politiek nummer dat mensen aanspoorde om te stemmen op de toenmalige presidentskandidaat Jesse Jackson.
In 1988, na een onderbreking van bijna 4 jaar, kwamen Mel en Flash weer bij elkaar en brachten het album On The Strength uit, maar met opkomende new school artiesten zoals Eric B. & Rakim, DJ Jazzy Jeff The Fresh Prince, Public Enemy, Boogie Down Productions, en Big Daddy Kane die de hip-hop markt domineerden, mislukte het album jammerlijk. Mel trad op met The King Dream Chorus en Holiday Crew op “King Holiday” gericht op het uitroepen van Dr. Martin Luther King Jr.’s verjaardag tot een nationale feestdag. Mel trad ook op met Artists United Against Apartheid op het anti-apartheid lied “Sun City” dat bedoeld was om andere artiesten te ontmoedigen om op te treden in Zuid-Afrika totdat de regering haar beleid van apartheid zou beëindigen. Mel sloot het decennium af met het winnen van twee Grammy Awards voor zijn werk op Quincy Jones’ albums Back On The Block en Q – The Autobiography of Quincy Jones.
In 1995 maakte Duran Duran een coverversie van “White Lines” met optredens van Grandmaster Flash en Melle Mel en bracht het uit als de tweede single van het Duran Duran covers album Thank You’:.
In 1996 leverde Mel vocale bijdragen aan de Amerikaanse editie van Cher’s hit “One By One”. Hun versie is alleen beschikbaar op het maxi CD-formaat.
In 1997 tekende Melle Mel bij Straight Game Records en bracht Right Now uit, een album waarop Scorpio (van de Furious Five) en Rondo te horen zijn. Dit album had meer een hardere rap stijl. Het verkocht nauwelijks in de VS en het VK.
In 2001 bracht hij onder de naam Die Hard het nummer “On Lock” uit met Rondo op de soundtrack van de film Blazin. Die Hard bracht in 2002 een gelijknamig album uit op 7PRecords.
Op 14 november 2006 bracht Mel in samenwerking met auteur Cricket Casey het kinderboek The Portal In The Park uit, met als bonus een cd met zijn gerapte vertelling. Er staan ook twee liedjes op, “World Family Tree” en “The Fountain of Truth”, van een toen nog onbekende Lady Gaga die samen met Mel optrad. Het boek werd opnieuw uitgebracht in 2010. Ook in 2006, ging Melle Mel naar de professionele worstel school. In 2007 (op 45-jarige leeftijd), verklaarde hij in een interview met allhiphop.com dat “Ik ga proberen om wat van John Cena’s geld te nemen en bij WWE te komen en mijn ding te doen”.
Op 30 januari 2007, bracht Mel zijn allereerste solo album uit, Muscles. De eerste single en videoclip was “M3 – The New Message”. Op 12 maart 2007 werden Melle Mel en The Furious Five (aangevuld met DJ Grandmaster Flash) als eerste rapgroep ooit opgenomen in de Rock and Roll Hall of Fame. In zijn dankwoord riep Mel de aanwezige platenindustrie op om meer te doen om hiphop terug te brengen tot de cultuur van muziek en kunst die het ooit was, in plaats van de cultuur van geweld die het is geworden. Hij voegde eraan toe: “Ik ben nog nooit neergeschoten, ik ben nog nooit gearresteerd, en ik doe al mijn hele leven aan hip hop. Ik kan dingen niet in mijn eentje veranderen. We hebben ieders hulp nodig, dus laten we het doen en dit ding voor elkaar krijgen.”
Op 10 oktober 2008 verscheen Mel in het Bronx-gebaseerde culinaire avonturenprogramma Bronx Flavor naast gastheer Baron Ambrosia. In de aflevering “Night at the Bodega”, verschijnt hij als een spirituele mentor om de Baron van zijn over-indulgent manieren af te brengen en hem op het juiste pad naar succes te krijgen.
In april 2011 werd bekend dat hij zou deelnemen aan een nieuwe hip hop / worstelen samenwerking, de Urban Wrestling Federation. Zijn eerste bout “First Blood” werd opgenomen in juni 2011.
Mel verscheen ook in Ice-T’s 2012 hiphop documentaire Something from Nothing: The Art of Rap.
In augustus 2015, Mel verscheen met Kool Moe Dee en Grandmaster Caz in Macklemore en Ryan Lewis’s nummer en videoclip “Downtown”.
In mei 2016, Mel en Scorpio, optredend als Grandmaster’s Furious Five ft. Melle Mel & Scorpio, brachten hun single “Some Kind of Sorry” uit.