Az apátságot 1089-ben alapították, amikor II. Leopold, Ausztria márkija egyik várát a lambachi apátság bencés szerzeteseinek adta. A XII. században szerzetesi iskolát, a Stiftsgymnasium Melket alapították, a kolostori könyvtár pedig hamarosan híres lett kiterjedt kéziratgyűjteményéről. A kolostor scriptoriuma a kéziratok készítésének is fontos helyszíne volt. A XV. században az apátság a melki reformmozgalom központjává vált, amely új lendületet adott Ausztria és Dél-Németország szerzetesi életének.

A mai barokk apátság 1702 és 1736 között épült Jakob Prandtauer tervei alapján. Különösen figyelemre méltó az apátsági templom Johann Michael Rottmayr freskóival és a könyvtár számtalan középkori kézirattal, köztük Paul Troger híres zenei kéziratgyűjteményével és freskóival.

Hírnevének és tudományos rangjának köszönhetően Melknek sikerült elkerülnie a feloszlatást II. József császár alatt, amikor 1780 és 1790 között számos más osztrák apátságot lefoglaltak és feloszlattak. Az apátságnak sikerült túlélnie a napóleoni háborúk idején és az 1938-as Anschluss utáni időszakban is, amikor az iskolát és az apátság nagy részét az állam elkobozta.

Az iskola a második világháború után visszakerült az apátsághoz, és jelenleg közel 900 diákot oktat mindkét nemből.

Az apátság 1625 óta az osztrák kongregáció tagja, jelenleg a bencés konföderációban.

Umberto Eco A rózsa neve című regényében az apátság és annak híres könyvtára előtt tisztelegve az egyik főszereplőt “Melki Adso”-nak nevezte el.

Az apátság öregdiákjai között volt a XIX. századi osztrák drámaíró és novellaíró, Friedrich Halm.

Melk apátsága a metaforikus csúcspontja (“a felfedezés hegyvonulatának egyik csúcsa”) Patrick Leigh Fermor önéletrajzi beszámolójának is, amely a második világháború előtti Európát átszelő gyalogtúrájáról szól A Time of Gifts című könyvében, és amely tartalmazza az apátság akkori leírását.

Az apátság a Wachaui Kultúrtáj része, amely a világörökség része.