Als veteraan van de Tweede Wereldoorlog was Goldberg een van de laatste overlevenden van de New York School; hij werd soms een lid van de zogenaamde “tweede generatie” van abstracte expressionisten genoemd, hoewel hij zijn actieschilderijen in belangrijke groepstentoonstellingen in galeries in New York City begon tentoon te stellen in het begin van de jaren 1950. Goldberg begon op 14-jarige leeftijd lessen te volgen aan de Art Students League of New York. In de jaren 1950 studeerde hij schilderen bij Hans Hofmann, en hij besprak het schilderen met Willem de Kooning, Lee Krasner, Jackson Pollock, Franz Kline, Mark Rothko en verschillende anderen van de New York School soms in The Eighth Street Club, een vaste ontmoetingsplaats van moderne kunstenaars die in en rond Tenth Street in New York werkten en soms in de Cedar Bar. Hij begon zijn schilderijen tentoon te stellen in New York City tijdens de vroege jaren 1950, en enkele van zijn abstract expressionistische collega’s waren kunstenaars als Joan Mitchell, Alfred Leslie, Grace Hartigan, Helen Frankenthaler, Knox Martin, Friedel Dzubas, Norman Bluhm en Sam Francis onder anderen.

Michael Goldberg werd bekend aan het eind van de jaren 1950, begin jaren 1960 net toen Colorfield Painting, Hard-edge Painting en Pop Art opkwamen op de centerstage. Met de veranderende mode in de kunstwereld werden zijn grootste prestaties als schilder niet voldoende erkend; en zoals velen van zijn generatie werd zijn werk vele jaren over het hoofd gezien. Hij werd in het begin van de jaren 1950 bekend door een affaire met de dichteres en toneelschrijfster Violet Ranny Lang en wordt gevierd in haar toneelstuk “Fire Exit,” zoals verteld in Alison Lurie’s memoires V.R. Lang, Poems & Plays, with a Memoir by Alison Lurie. Hoewel tegen de jaren 1970 en 1980 zijn werk erkenning en waardering begon te krijgen en hij een lange, succesvolle en een gevierde carrière als abstract schilder doormaakte. Net als anderen van de abstract expressionistische generatie gaf zijn werk uitdrukking aan een schilderkunstige integratie van westerse metafysica en oosterse filosofie. Gedurende zijn lange carrière en tot op hoge leeftijd bleef hij lesgeven, schilderen en zijn werk tentoonstellen. Zijn lessen aan de School voor Beeldende Kunsten werden druk bezocht door toegewijde studenten en bewonderaars. Hij woonde samen met zijn vrouw en metgezel, de schilderes Lynn Umlauf, die ook les geeft aan de School of Visual Arts. Hij overleed in Manhattan aan een hartaanval. Hij wordt ook overleefd door zijn broer, de schrijver Gerald Jay Goldberg.