Počátky paláce spadají pravděpodobně do 14. století, kdy na místě paláce a zčásti i na dnešním Mariánském náměstí stál gotický dvorec a kostel Panny Marie na Louži, zbouraný na konci 18. století. Dvorec patřil bratru císaře Karla IV. moravskému markraběti Janu Jindřichovi, který ho přebudoval ve dvoupatrový palác s věží. Po Janu Jindřichovu se majitelé střídali a nakonec skončil v držení Kinských. Po Bílé hoře dostal konfiskovaný palác generál Matyáš Gallas de Campo a z Freinthurnu, který se podílel na vraždě Valdštejna. O rozkvět paláce se zasloužil ale až jeho vnuk Jan Václav Gallas, který koupil okolní domy a v roce 1713 začal podle plánů vídeňského architekta Jana Bernarda Fischera z Erlachu budovat skutečný palác. Sochařské práce pak odvedla ve vynikající kvalitě dílna Matyáše Bernarda Brauna.

Rod Gallasů vymřel po meči a paláce se ujal syn sestry posledního Gallase Kristian Filip Clam, který spojil jména obou rodů a dal tak i jméno paláci. Na sklonku 19. století palác sloužil jako činžovní dům a část byla pronajata ministerstvu financů. V roce 1945 byl pak palác konfiskován a následně se stal dlouholetým sídlem Archivu hl. m. Prahy. Není celkem divu, že byl vybrán právě tento palác, protože je v něm 99 sálů. Palác bohužel chátral, a to od doby, kdy se Clamové postupně dostali do finančních potíží a proměnili objekt v činžovní dům. Chátrání pokračovalo i po roce 1945, kdy se do obnovy neinvestovaly potřebné peníze. Na sklonku 70. let minulého století tak došlo k tomu, že byl na palác vypsán havarijní výměr a začalo se s postupnou rekonstrukcí, která se protáhla až do roku 1994.

Prostory pro kulturní život

To byl také impulz k tomu, že archiv mohl začít s pořádáním výstav, koncertů a vědeckých konferencí ve velice důstojných prostorách. O palác je stále zájem, právě on se stal srdcem nově vznikající tradice Pražského karnevalu, který má připomenout karnevaly pořádané pražskou šlechtou v 17. a 18. století. Jako sídlo významného šlechtického rodu byl palác hostitelem takových osobností, jako byli například Wolfgang Amadeus Mozart či Ludwig van Beethoven. Výstavy, které se tu konají, tak nakonec připomínají ty, kteří v paláci dleli, což může být například poslední mozartovská výstava.

Jaký bude osud Clam-Gallasova paláce, se zatím neví. Když se začal stavět nový archiv, říkalo se, že v roce 2005 bude Clam-Gallasův palác uvolněn. Tato úvaha stále platí, i když v paláci doposud sídlí ředitelství archivu a odehrává se tu bohatý kulturní život. O tom, zda nakonec město palác ponechá archivu jako důstojný stánek pro výstavy a další akce či najde jiné využití, se zatím rozhoduje. Jisté je, že etapa paláce jako úložiště dokumentů končí.