宋江救了史进、鲁智深带了少华山四条好汉回到梁山后不久，听说徐州沛县芒砀山中有一伙强人，拥有三千人马，为首的名叫混世魔王樊瑞，能呼风唤雨，用兵如神，扬言要吞并梁山。宋江听了大怒道：“这贼怎敢如此无礼，我这就下山走一趟。”九纹龙史进刚上梁山很想带领本部人马前去收捕这伙贼人以建功立业。所以特来讨令。宋江大喜，当下便命史进点起人马直奔芒砀山去。
两军对阵，项充、李衮舞起团牌直杀入史进的阵来，史进等抵挡不住被芒砀山人杀得人亡马倒，倒退六七十里，史进还险些中了飞刀。史进整点人马，损失了一半，和朱武商量想前往梁山泊求救。此时北边大路上来了两千军马，是小李广花荣和金枪手徐宁。原来宋江放心不下，特派他们前来帮忙。
第二天，天刚亮，北边大路上又有军马到来，原来是宋公明亲自带领三千人马到来。史进把战事一说，宋江大惊，吴用道：“先安营扎寨再做商议。”此时天色已晚，只见芒砀山上都是青色灯笼，公孙胜看了便道：“这一伙人必有妖法，此寨中青色灯笼，必是个会行妖法的人在内。我们先把人马退下去，明天我来布一个阵法，捉住这二人。”
公孙胜按三国诸葛亮摆石为阵之法：四面八方分六十四队，大将在中间。其余四面，按天地风云之机，龙虎鸟蛇之状布置。专等樊瑞等人下山冲入阵来。只要看到七星号升起，就把阵变为长蛇之状。再做起法来，叫这三人在阵中前后无路，左右无门。
果然樊瑞吩咐项充、李衮道：“如果起风，你两个就带五百滚刀手杀入阵去。他二人得令，挺着标枪飞剑，只等樊瑞做法。只见樊瑞立在马上，左手拿流星锤，右手拿混世魔王宝剑，口中念念有词，大喝一声，便见狂风四起、飞沙走石、天昏地暗、日月无光。宋江等在高坡上望见，便叫陈达挥动七星号旗，那阵势纷纷滚动，变成长蛇之状。公孙胜在高坡上看了，便拔出松纹古定剑，口中念起咒语，大喝一声，只见风随着项充、李衮脚边乱卷，两人在阵中只觉天昏地暗、日月无光、四面不见一个人马，全是黑气。三军一齐杀过去，樊瑞带人往山上跑，人马损失大半。（樊瑞会法，但他不知强中更有强中手。）
宋江收了兵，军士把项充、李衮压上来。宋江见了，忙叫解了绳索说道：“二位壮士，不要见怪？临敌之际，不得不如此。宋江久闻二位壮士大名，想请二位上山同聚大义，如不嫌弃，就同归大寨，梁山将不胜荣幸。”二人早已听闻宋江大名，如今看到宋江如此深明大义，恨自己没有早些结识宋江，早日来投奔他。两人表明，一人愿回去劝说樊瑞前来投降。宋江道：“壮士不必留一人在此，就请二位同回贵寨，宋江明天等候佳音。”二人看宋江如此豪气，拜谢道：“真是个大丈夫，如果樊瑞不来归顺，我们就捉了他来献给哥哥。”
二人来到芒砀山下， 小喽啰见了大惊，把他们接上山寨。樊瑞问他们两人的来意。项充、李衮道：“我们逆天行事，合该万死。”两人把宋江义薄云天的事说了一遍。樊瑞道：“既然宋公明如此大义，我们不能逆天行事，早点下山投奔。”次日天亮，三人便一起下山投奔宋江。宋江以礼相待，三人见宋江没有半点疑心，便各倾心吐胆，诉说平生之事。宋江叫人杀牛宰马款待。樊瑞又拜了公孙胜为师。几天之内，樊瑞收拾了山寨钱粮，烧毁了寨栅跟宋江等班师回梁山。
从芒砀山收兵，来到水泊边，芦苇丛中突然钻出来一个大汉，拦住宋江的马，跪倒就拜。那大汉说他叫段景住，因头发胡须是黄色的，人称‘金毛犬’，在北疆一带盗马为业。今年春天，他盗了金国太子的‘照夜玉狮子马’想作为投奔梁山的见面礼献给宋江，不曾想被曾头市人称‘曾家五虎’的兄弟给夺了去。
宋江把段景住带回梁山泊，叫戴宗去曾头市打探。戴宗去了四五天，回来报道：“曾头市共有三千多户人家，曾家府有五个儿子，号称曾家五虎，依次叫做：曾涂、曾密、曾索、曾魁、曾升。还有两个教师，一个叫史文恭，另一个叫苏定。曾家聚集了六七千兵马，还造了五十多辆囚车，发誓将梁山头领捉尽。”
晁盖听了大怒道：“这些畜生竟敢如此无礼。这次我非得亲自走一趟，不活捉他们，我誓不回山。宋江劝阻道：“哥哥是一山之主，不可轻动，让我去吧！”晁盖执意要去，谁也拦不住。他点齐五千兵马。率领二十名头领，直奔曾头市。（ 晁盖在梁山上坐久了，只能眼睁睁地看着宋江名声大震。这次下山，一是为了剿灭曾头市，二是为梁山建功，提高自己的威望。）
晁盖率人马来到曾头市附近扎下营寨。次日众头领去察看地势，只见柳林中迎出一队人马，约有七八百人，领头的是曾魁。林冲拍马冲去，二人斗了二十多回合，曾魁招架不住，拔马就跑回柳林。林冲也拔马回阵。
次日天明，梁山人马列成阵势，擂鼓挑战。曾头市人马迎出来。当中七匹马上坐着史文恭、苏定和曾家五虎。军卒还推出几辆囚车，曾涂骂道：“俺曾家要把你们一个个活捉了，押上东京碎尸万段。”晁盖大怒，拍马挺枪，直奔曾涂。曾家人马边战边退，退入村里。林冲见道路复杂，便劝晁盖收兵回营。（林冲做事仔细又谨慎。）
晁盖急于求胜，接连三天挑战。曾头市就是不出一兵一卒。
第四天，突然来了两个和尚到营寨拜见晁盖。两个和尚见面就跪下对晁盖说道：“我们是曾头市东边法华寺里的和尚，曾家五虎时常到本寺索要钱财，无恶不作，我们已经探明村中虚实。愿意带头领去偷袭他们的营寨，铲除那五虎。”
晁盖一听心里很高兴，林冲劝道：“哥哥不要听信，其中说不定有诈。”
那两个和尚说：“小僧是出家人，怎敢胡说。久闻梁山好汉行侠仗义，所过之地，秋毫无犯，因此特来拜见，怎么敢骗你们？”晁盖说：“我不亲自去，谁肯上前？”随即他点了刘唐、阮小二、呼延灼等十名头领带领二千五百人马，趁黑夜悄悄地跟着两个和尚来到了华发寺内。
一行人来到法华寺，见偌大的寺院没有几个和尚。那两个和尚说：“只因曾家的骚扰，和尚都还俗去了。曾家的营寨在那边北寨，那是曾家兄弟屯军之处。那个寨子打下来，别的就不要紧了。”和尚说等到三更时分，军人们都睡了，便可以去。到了半夜，和尚领着大家离开了法华寺。
走出四五里，来到林木的深处，晁盖突然发现那两个和尚不见了。看看四周，路途复杂，无一户人家。晁盖这才意识到可能上当了，急忙顺原路往回，走了不到百步，只见四周突然亮起一片片火把，鼓声齐鸣，喊声震天。
晁盖众将夺路而走，才转两个弯儿，碰上一队军马，迎头乱箭射来，一箭正射在晁盖脸上。他翻身落马，被刘唐、白胜救起，众人掩护杀出丛林。正好遇上林冲前来接应。林冲带着重头领，边打边退，一直退到五六十里才摆脱了追兵。重头领来看晁盖时，见那支箭还插在晁盖脸上，林冲急忙拔出箭来看，那箭是毒箭，箭柄上写着“史文恭”三个字。
回到山寨，晁盖已经水米不进，浑身浮肿。宋江等守在床前痛哭，亲自上药喂药。当天深夜三更时分，晁盖身体沉重，转头看看宋江，嘱咐道：“贤弟保重，谁捉住了射死我的那人，便叫他做梁山泊寨主。”说完，晁盖闭目而死。宋江见晁盖死了，哭得差点晕死过去，众头领扶着宋江出来主事。
吴用、公孙胜劝道：“哥哥不要烦恼，生死由命，何故伤痛。先安排晁天王的后事。” 宋江每天领众人举哀，无心管理山寨事务。
林冲、吴用、公孙胜等重头领商议，决定立宋公明为梁山泊寨主，众人拱手、听从号令。
宋江说：“不能忘了晁天王的遗言，他临死嘱咐我：‘谁能捉到史文恭，报了此仇，便立为寨主。’”
吴用劝道：“晁天王虽然这样说，今天又无法捉住那人，山寨中岂可一日无主？哥哥权且暂坐这位，以后再说。”
宋江推辞不过，只能同意。自此以后，梁山泊水寨里，大小头领以宋公明为主，众人都拱手听从号令。
宋江自从上梁山，带人四处征战，威望在寨中大增，但他一直有受朝廷招安之意，这与晁盖的意愿相违背。晁盖病危时，并不想让宋江继位，而是想让武艺高强、可报得一箭之仇的人继位。宋江武艺平平，如何能杀了史文恭？这显然是晁盖给宋江继位而出的难题。
