克里姆林宫的“克里姆林”在俄语中意为“内城”，曾是俄国历代帝王的宫殿、莫斯科最古老的建筑群，1156年，尤里·多尔戈鲁基大公在其分封的领地上，用木头建立了一座小城堡，取名“捷吉涅茨”。
1320年，伊凡一世开始用橡树圆木和石灰石建造克里姆林宫，装饰以复杂精美的雕刻，每个屋顶建造成特殊的圆拱形，克里姆林宫成为莫斯科公国的中心。
1472年，伊凡三世迎娶拜占庭帝国的索菲娅·帕列奥罗格公主时，决心重建伊凡一世时的乌斯宾斯基大教堂，最后以每月十个卢布的高薪，聘请到意大利人卢道尔夫·费奥罗万提担任工程师。
1479年，位于克里姆林宫中央的乌斯宾斯基大教堂竣工，金色的圆顶、高耸的塔尖在阳光下闪闪发光。乌斯宾斯基大教堂此后一直作为俄罗斯国家教堂，所有俄罗斯沙皇加冕仪式都选择在这里举行。
1491年，位于广场西侧的大公寝宫多棱宫建成，它以严格的建筑比例和立方体形状而著称，因正面镶嵌着削成四面体的白石而得名。
15-16世纪中央教堂广场上建有圣母升天教堂、天使教堂、报喜教堂、伊凡大帝钟楼和多棱宫等。
1532～1543年，在其北又建四层立方体钟塔楼。1600年，伊凡大钟楼增至五层，冠以金顶
1788年，参议院大厦（今政府大厦）竣工。
1812年，拿破仑下令用炸弹炸毁克里姆林宫，幸运的是降雨及时扑灭了火焰，建筑群大多被保留了下来。
1838年，大克里姆林宫重建，全部由俄罗斯工匠采用本国建筑材料建成，外表看是三层建筑，实际是两层，第一层向前突出，构成一个露天阳台，后来作为苏联政府、苏共中央和社会团体举行会议的场所。
1935年，克里姆林宫瞭望塔上几百年来象征沙皇权威的双头鹰被拆除，取而代之的是新政权的标志——五颗红色五角星。
二战时期，为了防止德国空军轰炸克里姆林宫，苏联人做了一件瞒天过海的大事。占地28公顷的克里姆林宫被全部涂上伪装色，建筑被蒙上布，教堂顶端闪闪发光的金色也被涂料掩盖起来。
19世纪40年代建成克里姆林宫大厦。宫墙四周有塔楼20座。宫内塔楼中最宏伟的有斯巴达克、 尼古拉、特罗伊茨克、保罗维茨、沃多夫兹沃德等塔楼。
1961年10月，克里姆林宫大礼堂投入使用。
1967年，在克里姆林宫的花园 里建列宁全身塑像。
1978年11月27日，莫斯科的专家们修复克里姆林宫建筑。整个修复工程持续到80年代。
1990年，克里姆林宫与红场被列入世界文化遗产名录。
2014年，俄罗斯总统普京下令拆除克里姆林宫内部建筑“14号楼”
