1949年9月，随着国军退却与解放军节节胜利，未受中共高层喜欢的原清华哲学系主任冯友兰知趣地提出辞职。根据吴晗等人的意见，由与中共交情尚好的金岳霖继任清华哲学系主任。几个月后，老金官运亨通，又被任命为清华文学院长兼校务委员会委员，并有幸参加了《毛选》一卷的英文版翻译定稿工作。
1952年院系调整，全国六所大学（即北京大学、清华大学、燕京大学、南京大学、武汉大学、中山大学）的哲学系合并为北京大学哲学系，老金调任北大哲学系主任。1953年3月5日，声震寰宇的斯大林撒手归天，毛泽东前往苏联驻中国大使馆吊唁。3月9日，毛发表了《最伟大的友谊》一文，以此悼念斯大林。老金觉得无产阶级最重要的领袖去世了，思想上“开始有保卫党的要求”。是年，在朱伯昆、任继愈根据上面指示具体操作下，老金加入了中国民主同盟，后曾任民盟中央常委等要职。
据老金说：“解放初，张奚若忙得不可开交，梁林参加国徽设计工作也忙得不亦乐乎。我好像是局外人。有一次在怀仁堂见到毛主席，他对我说：‘你搞的那一套还是有用的’，这我可放心了，我也就跟着大伙前进了。”
老金的心一放下，不是跟着“大伙前进”，而是后来者居上，冲锋在前，健步如飞，很快超越了梁思成、林徽因等“大伙”，达到了同行们仰慕的高度和深度。
据当时北大哲学系学生羊涤生等人回忆：那时的老金已年近花甲，视力衰退，精力大不如前。但“在这段时期里，金老担负繁重的行政、教学科研工作，又要孜孜不倦学习马列主义，还要以他切身经历教育同学，和与同事促膝谈心，互相帮助，共同进步。金老不服年老，始终保持着高昂的革命激情。因为金老已下定决心，终身献给党的教育事业。金老的一次发言是我们永远难忘的，他紧捏着拳头，捶着桌子，铿锵有力地说：‘我决心在党和毛主席的领导下，做一个真正的人民教师！’语言刚劲有力，激情奔放，它打动了在座的师生，大家含着热泪迎上去表示欢迎，这时金老早已热泪盈眶。”
1955年春，老金奉调到中国科学院哲学研究所筹备会，9月被任命为中国科学院哲学研究所副所长兼逻辑研究组组长。老金晚年在回忆从清华到哲学所这段生活时曾说：“解放后调整到北大。周培源先生说要我做北大的哲学系主任。我说我不干，还说艾思奇摆在那里，不去找他，反而来找我。周培源说：‘要你做，你就得做。’我就做起系主任来了。不久就有人当面大骂我一顿。这样的事，在旧社会不是开除他，就是我辞职。在新社会怎么办呢？不知道。结果他不走，我也不辞。事也办不了，更谈不上办好办坏。”又说：“到了哲学所，另一副所长张镛说我应该坐办公室办公。我不知‘公’是如何办的，可是办公室我总可以坐。我恭而敬之地坐在办公室，坐了整个上午，而‘公’不来，根本没有人找我。我只是浪费了一个早晨而已。这以后没有多久，哲学所的同志作出决议。解除我的行政职务，封我为一级研究员。显然，他们也发现我不能办事。如果我是一个知识分子的话，我这个知识分子确实不能办事。”
据查，老金所说的解除职务一事是他的糊涂或者误会，当时的哲学所没有，也无权解除老金的行政职务，只是决定老金不必每天到所坐办公室办“公”了。
据可考的资料显示，老金申请加入中国共产党的具体日期是1956年9月29日，他在志愿书上写道：“中华人民共和国成立后，人民确实站起来了。……在这样一个人口众多的大国里，我认为我们非有相当多的人无条件地服从党的领导、接受党的任务不可。我要求把自己投入到这个伟大的革命建设潮流中，因此，我申请入党。”同时，老金还写道，有几本马列的书对自己影响很大，如《实践论》、《唯物论与经验批判论》、斯大林的《辩证唯物主义和历史唯物主义》、《马克思主义和语言学问题》等等。
鉴于老金的思想境界已臻化境，12月11日，中国科学院党委批准其为中共预备党员。从此，老金“从民主、爱国主义，转变为共产主义，终于成为共产主义先锋战士”。
由一名自由知识分子一夜间变成“战士”的老金，深知自己脑海里还残存着当时仍在中山大学任教的陈寅恪所坚守不移的那种不合时宜的“独立之精神，自由之思想”，于是，下定决心要洗心革面重新做人，主动放弃青壮年时代立志研究的逻辑哲学，开始“如饥似渴地学习马列主义、毛泽东思想，认真解剖自己，以提高思想觉悟”，并与“旧的自己”和自己搞的那一套哲学体系毫无保留地、彻底地决裂。同时公开表示：“学好马列主义、毛泽东思想，一年不行，用二年；二年不行用五年；五年不行用十年；十年不行用二十年！”
誓要做一个党指向哪里就打到哪里，刀山火海也敢闯的无产阶级先锋战士。
1956年除夕，毛泽东请金岳霖、章士钊等几位儒生兼同乡吃饭。席间，毛对老金道：“数理逻辑还是有用的