司马懿不是在三国晚期才出现的。

按照《三国演义》的叙述，司马懿首次出现在第39回：“却说曹操罢三公之职，自以丞相兼之。以毛玠为东曹掾，崔琰为西曹掾，司马懿为文学掾。懿字仲达，河内温人也。颍川太守司马隽之孙，京兆尹司马防之子，主簿司马朗之弟也。”此叙述在刘备访诸葛亮出山之后，时间也紧跟诸葛出现的时间，刘备访诸葛是在207年冬，曹操任丞相是在208年夏，所以，在《三国演义》中司马出场的时间和诸葛是大致差不多的，只是文学描述上，诸葛是重点，司马作为后续铺垫被放到了一边。