杨志是三代将门之后，五侯杨令公之孙，因脸上生有一大块青记，人称青面兽。他自幼流落关西，早年曾应武举，官至殿司制使官。后押送花石纲，却在黄河里翻船失陷，不敢回京赴命，只得避难江湖。

原著赞诗曾向京师为制使，花石纲累受艰难。虹霓气逼斗牛寒。刀能安宇宙，弓可定尘寰。

虎体狼腰猿臂健，跨龙驹稳坐雕鞍。英雄声价满梁山。人称青面兽，杨志是军班。

卖刀杀人林冲风雪山神庙后，投奔梁山，受到寨主王伦刁难，只得下山去取投名状。杨志正逢恩赦，要去东京谋求复职，恰好路经梁山泊，遇到林冲。二人大战五十余合，不分胜负，最终被王伦劝下。王伦有意招纳杨志入伙，却被杨志婉拒，只得放他离开。

杨志到东京后，通过门路见到了太尉高俅，却被高俅赶出。他盘缠用尽，只得到天汉桥街市上变卖祖传宝刀，却又遇泼皮牛二寻衅滋事。牛二要强夺宝刀，再三纠缠。杨志“一时性起”，怒杀牛二，而后到开封府衙自首，被打入死囚牢。

天汉桥百姓感念杨志为民除害，替他花钱上下打点。最终，杨志被免除死罪，只以“斗殴杀伤，误伤人命”之罪，刺配北京大名府留守司充军。