A második világháború veteránjaként Goldberg egyike volt a New York-i Iskola utolsó túlélőinek; néha az absztrakt expresszionisták úgynevezett “második generációjának” tagjaként emlegették, bár akciófestményeit az 1950-es évek elején kezdte kiállítani New York-i galériák fontos csoportos kiállításain. Goldberg 14 évesen kezdett órákat venni a New York-i Art Students League of New Yorkban. Az 1950-es években Hans Hofmann-nál tanult festészetet, és a New York-i Iskola több képviselőjével, Willem de Kooninggal, Lee Krasnerrel, Jackson Pollockkal, Franz Kline-nal, Mark Rothkóval és számos más festőművésszel tárgyalt néha a The Eighth Street Clubban, a New York-i Tenth Street-en és környékén dolgozó modern művészek rendszeres találkozóhelyén, néha pedig a Cedar Barban. Az 1950-es évek elején kezdte kiállítani festményeit New Yorkban, és absztrakt expresszionista társai között olyan művészek voltak, mint Joan Mitchell, Alfred Leslie, Grace Hartigan, Helen Frankenthaler, Knox Martin, Friedel Dzubas, Norman Bluhm és Sam Francis többek között.

Michael Goldberg az 1950-es évek végén, az 1960-as évek elején került előtérbe, éppen akkor, amikor a színmezőfestészet, a Hard-edge festészet és a pop art a középpontba került. A művészeti világ divatjának változásával; legnagyobb festői teljesítményét nem ismerték el kellőképpen; és mint sokan a generációjából, az ő munkásságát is sokáig figyelmen kívül hagyták. Az 1950-es évek elején a költővel és drámaíróval, Violet Ranny Langgal folytatott viszonyáról vált ismertté, és a “Fire Exit” című darabjában ünnepelték, ahogyan azt Alison Lurie V.R. Lang, Poems & Plays, with a Memoir by Alison Lurie című memoárjában elmeséli. Bár az 1970-es és 1980-as évekre munkássága kezdett elismerést és megbecsülést nyerni, és hosszú, sikeres és ünnepelt karriert futott be absztrakt festőként. Az absztrakt expresszionista nemzedék többi tagjához hasonlóan munkái a nyugati metafizika és a keleti filozófia festői integrációját fejezték ki. Hosszú pályafutása során és érett korában is folyamatosan tanított, festett és kiállította munkáit. A School of Visual Arts-ban tartott óráit hűséges tanítványai és csodálói látogatták. Feleségével és régi élettársával, Lynn Umlauf festőművésszel élt együtt, aki szintén a School of Visual Arts tanára. Manhattanben halt meg szívrohamban. Bátyja, az író Gerald Jay Goldberg is hátrahagyta.