Das Stift wurde 1089 gegründet, als Leopold II., Markgraf von Österreich, eine seiner Burgen den Benediktinermönchen des Stifts Lambach schenkte. Jahrhundert wurde eine Klosterschule, das Stiftsgymnasium Melk, gegründet, und die Klosterbibliothek wurde bald für ihre umfangreiche Handschriftensammlung bekannt. Das Skriptorium des Klosters war auch eine wichtige Stätte für die Herstellung von Handschriften. Jahrhundert wurde das Stift zum Zentrum der Melker Reformbewegung, die das klösterliche Leben in Österreich und Süddeutschland neu belebte.

Das heutige Barockstift wurde zwischen 1702 und 1736 nach Plänen von Jakob Prandtauer erbaut. Besonders erwähnenswert sind die Stiftskirche mit Fresken von Johann Michael Rottmayr und die Bibliothek mit unzähligen mittelalterlichen Handschriften, darunter eine berühmte Sammlung von Musikhandschriften und Fresken von Paul Troger.

Dank seiner Berühmtheit und seines akademischen Ansehens entging Melk der Auflösung unter Kaiser Joseph II, als zwischen 1780 und 1790 viele andere österreichische Klöster beschlagnahmt und aufgelöst wurden. Auch in den Napoleonischen Kriegen und in der Zeit nach dem „Anschluss“ 1938, als die Schule und ein großer Teil des Klosters vom Staat beschlagnahmt wurden, überstand das Stift weitere Bedrohungen seiner Existenz.

Die Schule wurde nach dem Zweiten Weltkrieg an das Stift zurückgegeben und beherbergt heute fast 900 Schülerinnen und Schüler beiderlei Geschlechts.

Seit 1625 ist das Stift Mitglied der Österreichischen Kongregation, die heute zur Benediktinerkonföderation gehört.

Umberto Eco nannte in seinem Roman „Der Name der Rose“ einen der Protagonisten „Adso von Melk“ als Hommage an das Stift und seine berühmte Bibliothek.

Unter den Absolventen war auch der österreichische Dramatiker und Erzähler Friedrich Halm.

Melk Abbey ist auch der metaphorische Höhepunkt („a peak in a mountain range of discovery“) von Patrick Leigh Fermors autobiographischem Bericht über seine Wandertour durch das Europa vor dem Zweiten Weltkrieg in A Time of Gifts, der eine Beschreibung der Abtei zu dieser Zeit enthält.

Das Stift ist Teil der Kulturlandschaft Wachau, die zum Weltkulturerbe gehört.