Institutioneel geheugen is gedefinieerd als “de opgeslagen kennis binnen de organisatie”. Binnen elke organisatie moeten instrumenten en technieken worden aangepast aan de behoeften van die organisatie. Deze aanpassingen worden in de loop van de tijd ontwikkeld en aan nieuwe leden van de groep aangeleerd, zodat zij niet tegen dezelfde problemen aanlopen en een oplossing moeten ontwikkelen die al bestaat. Op deze manier besparen organisaties tijd en middelen die anders verspild zouden kunnen worden.

Zo kunnen bijvoorbeeld twee autoreparatiebedrijven hetzelfde model autolift hebben. De liften zelf en de schriftelijke instructies ervoor zijn identiek. Als de ene werkplaats echter een lager plafond heeft dan de andere, kunnen de werknemers van die werkplaats vaststellen dat het optillen van een auto boven een bepaalde hoogte ertoe kan leiden dat de auto door het plafond wordt beschadigd. De huidige werknemers brengen de nieuwe werknemers op de hoogte van deze omzeiling. Zij informeren op hun beurt toekomstige nieuwe werknemers, zelfs als de persoon die het probleem oorspronkelijk heeft ontdekt, er niet meer werkt. Dergelijke informatie bevindt zich in het institutionele geheugen van de reparatiewerkplaats.

Institutioneel geheugen vereist de voortdurende overdracht van herinneringen tussen leden van de groep. Als zodanig berust het op een continuïteit van het groepslidmaatschap. Als iedereen in de bovengenoemde autowinkel in één keer ontslag zou nemen, zouden de werknemers die worden aangenomen om hen te vervangen, niet kunnen profiteren van de ervaring van de vorige groep. In zo’n geval zou de organisatie haar institutionele geheugen hebben verloren en minder efficiënt functioneren totdat de workarounds waaruit zij is opgebouwd, opnieuw kunnen worden ontwikkeld.

Elementen van institutioneel geheugen kunnen worden aangetroffen in bedrijven, beroepsgroepen, overheidsorganen, religieuze groepen, academische samenwerkingsverbanden, en bij uitbreiding in hele culturen. Er bestaan verschillende opvattingen over de wijze waarop het institutionele geheugen wordt overgedragen, tussen mensen of via schriftelijke bronnen.

Institutioneel geheugen kan worden aangemoedigd om een ideologie of een manier van werken in een dergelijke groep in stand te houden. Omgekeerd kan het institutionele geheugen zo diep geworteld zijn dat het moeilijk ter discussie kan worden gesteld, zelfs als de omstandigheden waardoor het is ontstaan, zijn veranderd. Een voorbeeld hiervan is een organisatie die een formulier blijft indienen, zelfs nadat de wet die dat document vereist is ingetrokken, uit angst voor juridische gevolgen die niet langer bestaan. Het institutionele geheugen kan ook van invloed zijn op de identiteit van de organisatie, de keuze van personen, en de handelingen van de personen die met de instelling te maken hebben.