司马懿生于汉灵帝光和二年，也就是后世纪元的公元一百七十九年，比马超小了一岁。是东汉颍川太守司马儁之孙，司马防之子，是颍川名门司马家最小的一辈儿。

司马防一共生有八个儿子，既是后来名动四方的“司马八达”。其中，司马懿排行第二，按照长幼顺序，司马防给他起了仲达的表字。

司马懿年少之时，便胸怀谋略，言行皆异于同龄之人。时任南阳太守的杨俊，素以知人善任而著称。杨俊在第一次见到司马懿的时候就曾断言：聪慧果断，英姿不凡，久后必非池中之物。