Johnson blev født i den lille by Alamosa, Colorado, og voksede op i Denver. Han begyndte at spille guitar som 13-årig. I 1963 begyndte han at gå på Colorado State College (nu University of Northern Colorado) i Greeley for at studere musik, men hans collegekarriere blev afbrudt, da han to år senere vandt en international talentkonkurrence. Førstepræmien omfattede en kontrakt med Epic Records.

I 1966 tog han til Barcelona, Spanien, for at finpudse sine instrumentale færdigheder og tog til Liceu-konservatoriet i Barcelona, Spanien, hvor han studerede for de fremtrædende klassiske guitarister Graciano Tarragó og Renata Tarragó. Da han vendte tilbage til USA, sluttede han sig til Randy Sparks i en gruppe kaldet New Society og tog på en turné i Orienten.

Da bandet blev opløst i 1967, blev han medlem af Chad Mitchell Trio i et år og brugte en del af den tid på at skrive sammen med et andet medlem, John Denver. Gruppen blev omdøbt til Denver, Boise & Johnson. Da trioen sluttede, foretog Johnson et radikalt brud med alt, hvad han tidligere havde gjort, ved at påtage sig en stor birolle i off-Broadway-opsætningen af “Jacques Brel Is Alive and Well and Living in Paris.”

I 1971 skrev Johnson under med Atco Records for at udgive sit første album, There Is A Breeze, som blev udgivet i 1973 og produceret af Johnson, Chris Dedrick, Peter Yarrow og Phil Ramone i New York og Toronto, Canada. Da han følte, at dette første album ikke var en sand afspejling af hans musik (på trods af at det blev en stor bestseller i Minneapolis-St. Paul-området), producerede Johnson selv sin næste LP i 1975, For All You Mad Musicians, hvor han i højere grad satsede på sin stemme og guitar for at skabe en folk-følelse. Han fulgte op med Ain’t Dis Dis Da Life, hvor han tilføjede en rytmegruppe. Med hver ny indspilning og hans fortsatte turnéer steg hans popularitet. Det var på tide at tage et skridt på det nationale marked.

I samarbejde med Brent Maher og Steve Gibson i Nashville, Tennessee, lavede Johnson en demo med to sange bestående af “Bluer Than Blue” og “Almost Like Being in Love” (den sidstnævnte sang fra Broadway-musicalen Brigadoon). EMI America lyttede en gang og spildte ingen tid på at skrive kontrakt med ham og fik hurtigt The Michael Johnson Album udgivet i 1978. “Bluer Than Blue” blev skrevet af Randy Goodrum. Den første single, “Bluer Than Blue”, blev Johnsons første Top 40-hit med en topplacering som nr. 12 på Billboard Hot 100-listen i sommeren 1978; sangen blev en af de bedste singler på Adult Contemporary-listen. “Almost Like Being in Love” blev nr. 91 på R&B-listen, mens den nåede top 5 på AC-listen og top 40 på pop-listen. Soul-sangerinden Ruby Wilson coverede “Bluer Than Blue”.

Johnson indspillede i alt fem albums for EMI og skiftede i 1985 til RCA Records, hvor han antog en moderne countrystil, der var forenelig med hans bløde, bløde tendenser. Han scorede fem Top Ten countryhits fra 1986 til 1989, herunder hitlistehitsene “Give Me Wings” og “The Moon Is Still Over Her Shoulder”. Efter to countryalbums på RCA (plus to greatest hits-samlinger), skiftede Johnson til Atlantic Records i 1991.

I 1995 scorede countrygruppen 4 Runner et mindre hit med singlen “Cain’s Blood”, som Johnson var med til at skrive en opdateret version af sammen med Jack Sundrud fra Poco.