Veterano della seconda guerra mondiale, Goldberg è stato uno degli ultimi sopravvissuti della New York School; a volte è stato indicato come un membro della cosiddetta “seconda generazione” di espressionisti astratti, anche se ha iniziato ad esporre i suoi action paintings in importanti mostre collettive nelle gallerie di New York City nei primi anni 1950. Goldberg iniziò a prendere lezioni all’Art Students League di New York all’età di 14 anni. Negli anni Cinquanta studiò pittura con Hans Hofmann, e discusse di pittura con Willem de Kooning, Lee Krasner, Jackson Pollock, Franz Kline, Mark Rothko e molti altri della Scuola di New York a volte al The Eighth Street Club, un luogo di incontro regolare di artisti moderni che lavoravano nella Decima Strada e dintorni a New York e a volte al Cedar Bar. Iniziò ad esporre i suoi dipinti a New York City durante i primi anni ’50, e alcuni dei suoi colleghi espressionisti astratti includevano artisti come Joan Mitchell, Alfred Leslie, Grace Hartigan, Helen Frankenthaler, Knox Martin, Friedel Dzubas, Norman Bluhm e Sam Francis tra gli altri.

Michael Goldberg è salito alla ribalta alla fine degli anni ’50, primi anni ’60 proprio quando la Color field painting, la pittura Hard-edge e la Pop Art emergevano sulla scena centrale. Con il cambiamento delle mode nel mondo dell’arte, i suoi più grandi successi come pittore non furono sufficientemente riconosciuti; e come molti della sua generazione il suo lavoro fu trascurato per molti anni. Era noto nei primi anni 50 per una relazione con la poetessa e drammaturga Violet Ranny Lang ed è celebrata nella sua opera “Fire Exit”, come raccontato nel libro di memorie di Alison Lurie V.R. Lang, Poems & Plays, with a Memoir by Alison Lurie. Anche se negli anni ’70 e ’80 il suo lavoro cominciò a ottenere riconoscimento e apprezzamento e godette di una lunga, fortunata e celebrata carriera come pittore astratto. Il suo lavoro, come altri della generazione espressionista astratta, esprimeva un’integrazione pittorica della metafisica occidentale e della filosofia orientale. Durante la sua lunga carriera e negli anni della maturità, continuò a insegnare, dipingere ed esporre le sue opere. Le sue lezioni alla School of Visual Arts erano ben frequentate da studenti e ammiratori devoti. Viveva con sua moglie e compagna di lunga data, la pittrice Lynn Umlauf, che insegna anche lei alla School of Visual Arts. È morto a Manhattan per un attacco di cuore. Gli sopravvive anche il fratello, lo scrittore Gerald Jay Goldberg.