Johnson se narodil v malém městečku Alamosa v Coloradu a vyrůstal v Denveru. Na kytaru začal hrát ve 13 letech. V roce 1963 začal studovat hudbu na Colorado State College (nyní University of Northern Colorado) v Greeley, ale jeho vysokoškolská kariéra byla přerušena, když o dva roky později vyhrál mezinárodní talentovou soutěž. První cena zahrnovala smlouvu se společností Epic Records.

V touze zdokonalit své instrumentální dovednosti se v roce 1966 vydal do španělské Barcelony na konzervatoř Liceu, kde studoval u významných klasických kytaristů Graciana Tarragó a Renaty Tarragó. Po návratu do Států se připojil k Randy Sparksovi ve skupině New Society a absolvoval turné po Orientu.

Když se skupina v roce 1967 rozpadla, upsal se na rok Chad Mitchell Triu, přičemž část tohoto času strávil spolu s dalším členem, Johnem Denverem. Skupina se přejmenovala na Denver, Boise & Johnson. Když trio skončilo, Johnson se radikálně odklonil od všeho, co do té doby dělal, a přijal hlavní vedlejší roli v mimobroadwayské inscenaci „Jacques Brel Is Alive and Well and Living in Paris“

V roce 1971 podepsal Johnson smlouvu s Atco Records a vydal své první album There Is A Breeze, které vyšlo v roce 1973 a které produkovali Johnson, Chris Dedrick, Peter Yarrow a Phil Ramone v New Yorku a kanadském Torontu. Johnson cítil, že tento první počin není pravdivým odrazem jeho hudby (přestože se v oblasti Minneapolis-St. Paul stal velkým bestsellerem), a proto si v roce 1975 sám produkoval další LP For All You Mad Musicians, kde se více spoléhal na svůj hlas a kytaru a které působilo folkově. Následovalo album Ain’t Dis Da Life, kde přidal rytmickou sekci. S každou novou nahrávkou a pokračujícím koncertováním jeho popularita rostla. Bylo na čase udělat krok na celostátní trh.

Spojil se s Brentem Maherem a Stevem Gibsonem v Nashvillu ve státě Tennessee a Johnson vytvořil dvoupísňové demo sestávající z písní „Bluer Than Blue“ a „Almost Like Being in Love“ (druhá jmenovaná píseň pochází z broadwayského muzikálu Brigadoon). Vydavatelství EMI America si ho poslechlo a bez otálení s ním podepsalo smlouvu a v roce 1978 vydalo album The Michael Johnson Album. Skladbu „Bluer Than Blue“ napsal Randy Goodrum. První singl „Bluer Than Blue“ se stal Johnsonovým prvním hitem v Top 40, v létě 1978 se umístil na 12. místě žebříčku Billboard Hot 100; píseň se stala vítězným singlem v žebříčku Adult Contemporary. „Almost Like Being in Love“ se dostala na 91. místo v žebříčku R&B a zároveň se dostala do Top 5 v žebříčku AC a do Top 40 v popovém žebříčku. Na skladbu „Bluer Than Blue“ nahrála coververzi soulová zpěvačka Ruby Wilson.

Johnson natočil celkem pět alb pro EMI a v roce 1985 přešel k RCA Records, kde si osvojil styl současné country, který zůstal kompatibilní s jeho jemnými, mírnými sklony. V letech 1986-1989 zaznamenal pět countryových hitů v Top Ten, včetně hitů „Give Me Wings“ a „The Moon Is Still Over Her Shoulder“. Po dvou countryových albech u RCA (a dvou kolekcích největších hitů) přešel Johnson v roce 1991 k Atlantic Records.

V roce 1995 zaznamenala countryová skupina 4 Runner menší hit se singlem „Cain’s Blood“, pro který Johnson napsal aktualizovanou verzi společně s Jackem Sundrudem ze skupiny Poco.