Veterán druhé světové války Goldberg byl jedním z posledních přeživších členů Newyorské školy; někdy byl označován za příslušníka takzvané „druhé generace“ abstraktních expresionistů, ačkoli své akční obrazy začal vystavovat na významných skupinových výstavách v galeriích v New Yorku na počátku 50. let. Goldberg začal navštěvovat kurzy na Art Students League of New York ve čtrnácti letech. V padesátých letech studoval malbu u Hanse Hofmanna a o malbě diskutoval s Willemem de Kooningem, Lee Krasnerem, Jacksonem Pollockem, Franzem Klinem, Markem Rothkem a několika dalšími představiteli newyorské školy, někdy v The Eighth Street Club, pravidelném místě setkávání moderních umělců působících na Desáté ulici v New Yorku a v jejím okolí, a někdy v Cedar Baru. Své obrazy začal vystavovat v New Yorku na počátku 50. let a mezi jeho vrstevníky z řad abstraktních expresionistů patřili mimo jiné Joan Mitchellová, Alfred Leslie, Grace Hartiganová, Helen Frankenthalerová, Knox Martin, Friedel Dzubas, Norman Bluhm a Sam Francis.

Michael Goldberg se dostal do popředí zájmu na přelomu 50. a 60. let 20. století, právě když se na scénu dostaly Color field painting, Hard-edge painting a Pop Art. Se změnou módních trendů ve světě umění; jeho největší malířské úspěchy nebyly dostatečně uznány; a jako u mnoha příslušníků jeho generace bylo jeho dílo po mnoho let přehlíženo. Na počátku padesátých let byl známý díky románku s básnířkou a dramatičkou Violet Ranny Langovou a je oslavován v její hře „Fire Exit“, o níž vypráví Alison Lurieová ve své vzpomínkové knize V.R. Lang, Poems & Plays, with a Memoir by Alison Lurie. Ačkoli v 70. a 80. letech 20. století začala jeho tvorba dosahovat uznání a ocenění a on se těšil dlouhé, úspěšné a oslavované kariéře abstraktního malíře. Jeho dílo stejně jako díla dalších příslušníků generace abstraktních expresionistů vyjadřovalo malířskou integraci západní metafyziky a východní filozofie. Během své dlouhé kariéry i ve zralém věku nadále vyučoval, maloval a vystavoval svá díla. Jeho hodiny na Škole výtvarných umění byly hojně navštěvovány oddanými studenty a obdivovateli. Žil se svou ženou a dlouholetou společnicí, malířkou Lynn Umlaufovou, která rovněž vyučuje na School of Visual Arts. Zemřel na Manhattanu na infarkt. Zůstal po něm také jeho bratr, spisovatel Gerald Jay Goldberg.