金岳霖留学回国后，先受聘于清华大学教授逻辑学，并受校方委托创办了清华大学哲学系，担任系主任。当时的哲学系只有金岳霖一个教师，也只招到沈有鼎一个学生，当时一师一生，号称一系，成为美谈。尔后的三十多年里，他不但一手办起了清华大学哲学系，而且培养了这方面的许多大家，桃李满天下。用金老同事汪子嵩先生的话说：“一直到1952年，清华哲学系的学生都是金先生的学生，或是学生的学生。”

金岳霖授课时，常把学生也看做学者，以学者对学者的态度研究问题。他讲课经常“不带书本，不带讲稿，走进课堂只带一支粉笔，这支粉笔并不适用，经常一堂课下来一个字也不写”。

金岳霖主讲逻辑学，有学生（据汪曾祺回忆可能是陈蕴珍，即萧珊）感到这门学问十分枯燥，便好奇地问他：你为什么要搞逻辑？金教授答：“我觉得它很好玩。”

西南联大时，金岳霖曾开设一门选修课“符号逻辑”。对很多人来说，听这门课如听天书。因而每次上课，教室中只有零星几个人。其中一个叫王浩的学生却是例外，颇能懂得个中奥妙。金岳霖经常会在讲授过程中停下来，问道：“王浩，你以为如何？”于是，接下来的这堂课便成了他们师生二人的对话。

西南联大开学，殷海光选了郑昕的“哲学概论”，这位教授在德国留过学，对康德哲学有很深的造诣。郑昕发现殷海光也来听他的课，就对他说：“你不用上我的课，下去自己看书就好了。”于是，殷海光就不再来上课了，他在下面看书自学，期末还得了这门课的最高分数。他选金岳霖的逻辑课，金教授也对他说：“我的课你不必上了，王宪钧刚刚从奥国回来，他讲的一定比我好，你去听他的吧！”

金岳霖高高的身材，披一件风衣，进教室后总是搬一把学生坐的课椅摆在讲台边上坐下。虽然面对学生，却总是低着头，有时甚至闭上眼睛，自己一面思索，一面讲他的哲学问题，坐而论道。有时讲到得意性愤时，会突然站起来，在黑板上写几个字，或者向学生提个问题，师生共同讨论起来。

冯友兰和金岳霖都讲形式逻辑，张松年讲的逻辑有点罗素的味道，可是，最叫座的还是金岳霖的课。一到他的课，好几百人，几乎满堂。季羡林虽然在高中学过逻辑，不过金岳霖讲的逻辑跟他学的不一样，所以考不好，后来他才知道，金岳霖讲的形式逻辑跟自己学过的不是一个体系。金岳霖有一次讲到“我吃饭”一句话，说重读“我”，就表示：“我”吃饭，不是“你”吃饭。重读“吃”，就表示：我“吃”饭，不是我“拉”饭。

在我国的逻辑教材中，影响最大的是金岳霖六十年代主编的《形式逻辑》，这本书出版后，以它为基础或蓝本的逻辑类教材层出不穷，至今至少有几百种。