První malé opevnění zde bylo v 11. století a první písemná zmínka pochází z roku 1147. Toto první sídlo vybudoval Jurij Dolgorukij, legendární zakladatel Moskvy. Postupem času z malé dřevěné pevnosti rostla mohutnější pevnost. Po sjednocení Ruska v polovině 15. století si car Ivan III. uvědomil, že toto sídlo není hodné panovníka jeho významu. V té době byly vápencové hradby v dezolátním stavu. Car dal do Kremlu zavolat italských stavitelů. Ti kompletně zrekonstruovali hradby a kostel Nanebevzetí.
Na opevnění se rozhodne nešetřilo. Vznikly hradby z pálených cihel o rozměrech: délka opevnění - 2235 m, výška se pohybuje mezi 8 - 19 m a šířka je v rozmezí 3,5 - 6,5 metru. Tyto hradby vydržely až do dnešních dnů.
V 17. století bylo přidáno k hradbám 20 věží. Do Kremlu se dostanete nejvyšší Troicki věží, která má výšku 79 metrů.
Za vlády Petra Velikého po přenesení hlavního města do Petrohradu, význam Kremlu upadal. Moskevský Kreml znovuobjevila Kateřina Veliká a přenesla sem část státní moci. Veškerou moc do Kremlu přenesl až V. I. Lenin po Velké říjnové revoluci.
Vláda Stalina byla pro Kreml kritická, protože několik kostelů uvnitř Kremlu nechal zbourat, všechny carské symboly odstranil, zlaté orlice umístěny na věžích nahradil svítícími červenými až 3 m vysokými hvězdami a Kreml uzavřel před veřejností. Otevření pro návštěvníky bylo až dva roky po Stalinově smrti v roce 1955 a později se kromě sídla vlády z něj stalo i muzeum. V roce 1990 byl tento objekt zapsán na Seznam světového dědictví UNESCO.