魏文帝曹丕

公元219年，司马懿升任太子中庶子。辅佐魏太子曹丕。不久之后，司马懿因为在军事上颇有见解。因此被任命为军司马。开始染指军事方面的事宜。公元220年，曹操去世，曹丕即位。司马懿受封河津亭侯，担任丞相曹丕的长史。成为丞相曹丕的总管。公元221年11月曹丕即位为帝，司马懿被封为为尚书。入尚书台，不久后转任督军、御史中丞，封安国乡侯。公元221年，司马懿被免去督军官职，升任侍中、尚书右仆射。进入曹魏核心圈子。公元224年，曹丕征讨孙权。让司马懿镇守许昌，从事着类似于当年荀彧的事情。为了给予司马懿足够的权力。曹丕还任命司马懿为向乡侯，转任抚军、假节，领兵五千。加给事中、录尚书事。此时的司马懿已经有一定的军权，人事权和足够的议事权。

魏明帝曹睿

公元226年，曹丕去世之际，任命抚军大将军司马懿同中军大将军曹真、镇军大将军陈群、征东大将军曹休共同辅政。同年12月，司马懿升任骠骑将军。公元227年六月，司马懿屯兵宛城，督荆、豫二州诸军事。

曹真攻蜀路线图

公元229年，曹真伐蜀，曹睿升任司马懿为大将军、加大都督、假黄钺，协同大司马曹真作战。司马懿从西城开拓道路，水陆并进。沿着沔水逆流而上，直达朐忍（在今四川云阳县东三坝乡，东汉末属巴东郡），攻克新丰县。驻军丹口。后遇大雨班师。