杨志拿了宝刀，插个草标，在马行街等了半天，无人问价钱。他来到天汉州桥，也无人问。这时，街上的人叫着：“大虫来了。”纷纷躲避。杨志好不奇怪，京师地面，怎会有老虎?这时，只见一个黑大汉醉醺醺地走上桥来。黑大汉名叫牛二，是著名的泼皮，外号没毛大虫。牛二走过来，问：“你卖什么?”杨志说：“卖刀。”牛二问：“多少钱?”杨志说：“三千贯。”牛二说：“什么鸟刀要这么多钱?我三十钱买把刀，也能切肉。”杨志说：“我这刀是宝刀，第一，可砍铁剁铜不卷刃，第二，吹毛可断，第三，杀人不沾血。”牛二就到桥头香椒铺讨来二十文一当三的铜钱，摞在桥栏杆上。杨志看准了，一刀剁下去，二十个铜钱剁成四十半。牛二又揪了一撮头发，杨志往刀口上一吹，头发竟断为两截。牛二又让杨志去杀人，杨志说：“天子脚下，怎可随意杀人?找条狗杀了吧。”牛二说：“你方才说的是杀人，不是杀狗。你若有胆，就把我杀了吧。”杨志说：“我与你无冤无仇，为什么杀你?”牛二说：“你不杀我，就得把刀给我。”杨志转身要走，牛二扑上去，又踢又打，把杨志打恼了，喀嚓一刀把牛二杀了。
杨志来到开封府，投案自首。官府派人验了尸，取了附近人的证词，将刀封了入库，将杨志押入监牢。
州桥附近的商号、住户念杨志为他们除了一害，凑了钱为他上下打点。官府也念杨志是条好汉，有意开脱他，断了二十脊杖，刺配北京大名府。杨志脸上文了金印，由张龙、赵虎押出衙门。州桥附近的两个大户又带头凑钱，一半送与杨志当盘缠，一半送与二公人，请他们路上好好照顾杨志。
三人来到北京大名府，投到留守司衙门。那留守名叫梁中书，是当朝太师蔡京的女婿，上马管军，下马管民，极有权势。当年在东京，他曾见过杨志，见杨志发配到此，备问情由，杨志将前因后果一一说明。梁中书就写了回文，打发了张龙、赵虎，把杨志留在身边。梁中书见杨志十分殷勤，有心抬举他做个副牌军，每月可领一份饷银，但又怕众将不服，便传下令去，来日到东郭门外较场比武。
次日一早，较场上旌旗招展，刀枪罗列，军兵队伍整肃，将军威风凛凛。正将台上，站两个都监，一个叫李天王李成，一个叫闻大刀闻达，都有万夫不当之勇。梁中书端坐演武厅，众将见过礼，梁中书传令操演军兵，顿时金鼓齐鸣，声震天地。五队人马按衣甲、旗号的颜色操演一阵。梁中书又传令：“唤副牌军周谨。”
周谨出了阵，卖弄精神，跃马舞枪，使了一阵。梁中书又传令：“唤东京拨来的军健杨志。”杨志应声而出。梁中书问：“你敢与周谨比武吗?”杨志说：“恩相差遣，敢不从命。”杨志当下结束停当，提枪上马。二人正要比试，闻达说：“且住!刀枪没眼，万一有个死伤就不好了。你们各穿黑衫，去掉枪头，上包氈片，蘸了石灰，谁身上白点少谁胜。”梁中书说：“如此最好。”
二人领命，各换了黑衫，去掉枪头，包上氈片，蘸了石灰，上了马，杀作一团。斗了约五十回合，看周谨时，如同一头梅花鹿，身上斑斑点点，杨志仅左眉下有一个白点。梁中书要革去周谨的差使，让杨志顶替。李成心中不忿，说：“周谨枪法生疏，弓马娴熟，再让他跟杨志比箭。”梁中书传下令来，再让二人比箭。
杨志带上弓箭，上了马，来到演武厅前，李成发给二人每人一个盾牌，各绾在左臂上。杨志说：“你先射我三箭，我再射你三箭。”周谨听了，心中暗喜，恨不能一箭把杨志射个透明的窟窿。梁中书一声令下，青旗挥动，战鼓震天。杨志拍马望南跑去，周谨随后赶来，一箭朝杨志后心射去。杨志用弓梢一拨，将箭打落在地。周谨第二箭射来，杨志镫里藏身躲过。周谨第三箭射来，杨志一伸手，把箭抓在手里。该杨志射周谨了。周谨扔了弓箭，举着盾牌，拔刀就走。杨志赶上，虚扯了一下弓弦。周谨忙用盾牌挡，却挡了个空。周谨暗忖，这小子只会使枪，不会射箭。杨志再赶上来，把箭瞄向周谨的后心，又一想，我何必伤他性命?就把箭抬高了一些，射了出去。周谨不曾提防，正中左肩，一头栽下马来。
梁中书当即让军政司除去周谨的姓名，改为杨志。杨志一马跑到厅前，向梁中书谢职。却听一人大叫：“休要谢职，我和你比一比。”杨志看时，此人生得七尺开外身材，圆面大耳，唇厚口方，颏下一部络腮胡。此人向梁中书施了礼，说：“周谨生病未愈，所以败给杨志。杨志若能胜了小将，别说顶替周谨的副牌军，就是小将这正牌军也让给他。”梁中书看时，是正牌军索超。索超性如烈火，每逢出战，惯爱打头阵，人称急先锋。李成也走来，说：“恩相，杨志原在东京当过制使，周谨怎是对手?正好与索超正牌比试。”梁中书想，正好叫杨志胜了你们，叫你们死而无怨，就传令让二人比武。
李成把索超叫到一边，说：“周谨是你徒弟，已输了一阵，你要再输了，他就看不起咱们大名府的军官了。我的盔甲、马匹都借给你，小心，休要折了锐气。”索超谢了，自去结束。
梁中书一声令下，金鼓震天动地响起来。众将鸦雀无声，静立观战。
索超顶盔贯甲，手持蘸金斧，胯下李成的那匹雪白马，从左方冲出阵来。杨志身披镔铁甲，手提浑铁点钢枪，胯下梁中书的火炭赤千里嘶风马，从右方冲出阵来。二人直斗了五十个回合，不分胜负。梁中书瞪着两眼看呆了；众将军喝彩不迭；士兵们面面相觑，就是上过战场的也没见过这种厮杀；连久经战阵的闻达、李成也连声称好。闻达生怕二虎相斗，必有一伤，忙让旗牌官拿着令字旗，上前将二人分开。二人正斗到好处，各自要逞英雄，怎肯住手?直到梁中书传下令来，二人方拨马跑回本阵。
李成、闻达向梁中书禀报：“二人武艺高强，都可重用。”梁中书大喜，让二人来到演武厅前，一人赏一锭大元宝，一套衣料，命军政司将二人都升做管军提辖，让军兵们先回营，随后，在演武厅中设宴，请大小军官入席。
时光荏苒，春去夏来，到了端午佳节。梁中书在后堂设家宴，吃了一会儿酒，夫人问：“相公身为一军统帅，功名富贵从何而来?”梁中书说：“我又不是木头人，怎不知老泰山的提携之恩?”夫人说：“既然你没忘我父亲的恩，怎把我父亲的生辰忘了?”梁中书说：“六月十五是泰山的生辰，我怎会忘?我已差人买了十万贯的金银珠宝，为泰山庆寿。只是一点让我为难。去年为泰山买的许多珍宝，半路上被贼人劫去，至今未获，今年让谁去护送好呢?”夫人说：“就让他去。”