薛怀义原名冯小宝，本来是在洛阳城市井之中靠卖野药为生的小货郎，冯小宝身体结实魁梧，又能说会道，被一家豪宅的侍女看上了，成了侍女的情人。这个侍女的主人便是宗室谋反案之后为了保命，主动要求当武则天女儿的千金公主。这个侍女偷偷把冯小宝领到公主府幽会，不小心被千金公主发现了。千金公主起初自然是勃然大怒，但是看看跪在地上的冯小宝一表人才，千金公主也就原谅了他，不仅没有惩罚他，还把他留用了。由于千金公主当时正在努力讨好武则天，于是又亲自为他沐浴更衣，留待数日，把冯小宝献给寡居多年的武则天。武则天召见，喜小宝身强力壮，体貌魁伟，因留其于宫中私通。为避免外人察知，便于出入宫禁，乃让小宝削发为僧。又令改姓薛，取名怀义，与太平公主丈夫薛绍为一族，并命薛绍认小宝为季父。