“英雄无用武之地”的前面一句是“林冲看守草料场”。是后世根据成语“英雄无用武之地”编的。成语比喻有才能却没地方或机会施展。“英雄无用武之地”成语出自西晋·陈寿·《三国志》卷35蜀书5《诸葛亮传》：今操芟夷大难，略已平矣，遂破荆州，威震四海。英雄无所用武，故豫州遁逃至此。

这个歇后语的背景故事如下：

林冲原是东京八十万禁军的教头，他的上司太尉高俅的儿子高衙内看上了他的妻子。高俅及手下陆虞候设下一条毒计，让林冲买了一把宝刀，然后高俅命令林冲带宝刀入府，乘机诬陷林冲阴谋行刺，林冲因此被刺配到沧州。在去沧州的路上，押送的公人被陆虞候买通，多次想杀害林冲，幸亏被鲁智深救下，安全来到沧州。到沧州后，就管营派林冲看守草料场。