庾亮、温峤准备起兵讨伐苏峻，但是道路阻断，不知道建康的消息，正好范汪逃到寻阳，对他们说：“苏峻政令混乱不一，贪婪强暴，肆无忌惮，已显现出灭亡的征兆，目前虽然暂时强大，但很容易转化为弱小，朝廷已经到了千钧一发的危急时刻，应当及时进攻讨伐他。”温峤深以为然。
庾亮和温峤互相推举对方为盟主，温峤的堂弟温充建议说：“陶侃的职位重要，兵力强盛，我们应当推举他为盟主。”温峤便派遣督护王愆期到荆州，去邀请陶侃和自己同赴国难。
陶侃对于自己没能被选为辅政大臣心中不满，于是答复温峤说：“我是守护边疆的将领，不敢逾越职分。”
温峤多次劝说都不能使他回心转意，于是顺着他的意思说：“那仁公暂且按兵不动，我先行征讨。”
信使出发两天后，参军毛宝从别处回来听说此事，劝说温峤：“凡是干大事，应当天下人共同参与，军队能取胜关键在于齐心协力，没听说过不团结能成功的。假如有疑虑，也应当表面上装作不知道，怎么还能自己制造疑惑呢！应该赶紧追回信使，修改原来的信，劝说他一定要一起征讨。”
温峤醒悟，当即追回使者改写书信，陶侃果然答应了，派龚登率军去见温峤，温峤于是发布檄文传告天下，宣告祖约、苏峻的罪状，登上战船准备出发。
龚登出发后，陶侃又后悔了，将龚登追回，温峤再次写信给陶侃陈述厉害，终于感动了他，陶侃连儿子陶瞻的丧礼也不参加了，穿上战服登船，日夜兼行地赶来。
陶侃率部队达到寻阳，很多人都议论说陶侃准备杀了庾亮以谢天下，庾亮很恐惧，他听从了温峤的建议，主动去拜访陶侃叩头谢罪。陶侃大吃一惊，连忙制止，庾亮引咎自责，他本就风度翩翩，现在又态度谦逊，陶侃不知不觉放心开怀，笑着说：“你当年修葺石头城来对付老夫，今天反倒过来见我有所求吗！”随即和他谈笑宴饮。
庾亮知道陶侃素来节俭，于是在吃薤菜的时候，特地留下薤白，陶侃问他：“为什么要这样？”庾亮说：“因为薤白可以再种啊。”陶侃于是赞叹道：“庾亮不仅风流倜傥，也有为政的实际才能啊！”两人于是尽释前嫌。
陶侃、庾亮和温峤一同奔赴建康，士卒有四万多人，旌旗绵延七百余里，苏峻听说他们从西边进军过来，便从姑孰返回石头城，分兵抗拒陶侃等人。
苏峻逼迫晋成帝迁居石头城，王导极力争辩，苏峻不听，司马衍哀哭着登上车辇，宫中一片恸哭。当时天下大雨，道路泥泞，刘超、钟雅始终徒步侍从在车辇左右，苏峻给他们马匹也不肯坐，一副悲哀慷慨的样子，苏峻听说后恨得咬牙切齿，但最终还是没敢杀害这两个人。刘超等人每日寸步不离司马衍左右，虽然处于困厄之中，还为皇帝启蒙授课，讲授《孝经》和《论语》。
司徒王导秘密用太后诏书谕示三吴地区的官吏子民，让他们发动义兵拯救天子。会稽内史王舒让庾冰领兵一万人向西渡过浙江，吴兴太守、吴国内史、义兴太守等人都纷纷发兵响应。
苏峻听说东方也起兵了，派部将管商等人抵抗，双方交战，互有胜负，呈胶着状态。
陶侃、温峤屯兵于茄子浦，温峤因为南方士兵熟悉水战，而苏峻的士兵擅长步战，便下令：“将士有上岸的处死！”正巧碰上苏峻赠送一万斛粮米给祖约，祖约派桓抚等人迎接。
毛宝对士兵说：“兵法说：‘军令有所不从！’怎么能眼见着可以攻击敌军，却不上岸攻击呢！”于是率领一千人擅自前往偷袭桓抚，尽数劫获粮米，斩首万人左右，祖约军队因此饥饿缺粮，温峤嘉奖了他的功勋，并上表推荐毛宝担任庐江太守。
庾亮派遣督护王彰讨伐苏峻的党羽张曜，反而被张曜打败，庾亮将符节送到陶侃那里去谢罪，陶侃说：“古人曾有三败，军侯您才败了两次，现在是紧急关头，不该计较这些。”陶侃对庾亮如此宽容，诸将都非常感动，奋力作战。
宣城内史桓彝驻守泾县，附近州郡大多派使者向苏峻投降，长史劝桓彝暂且与苏峻通好，以舒缓将会到来的灾祸。桓彝说：“我深受国家的厚恩，应当以死报效，怎么能忍受耻辱和逆臣互通友好，如果事情不能成功，那这就是我的命！”
桓彝任命俞纵驻守兰石，俞纵说：“我不辜负桓公，犹如桓公不辜负国家。”于是力战而死，桓彝亦战败而死。
各路盟军刚到达石头，就想和苏峻决战，陶侃说：“他们现在气势正盛，难以与之争锋，应该等待时日，用智谋来战败他们。”
部队几次出战都没能取胜，诸将请求在查浦修筑营垒，而建军李根建议在白石修营垒。李根说：“查浦地势低下，又处在水南，只有白石地形险要坚固，可容纳数千人，不利于敌人进攻，是灭敌的好办法。”
陶侃笑着说：“你果然是一员良将！”于是采用了李根的建议，连夜修造营垒，天亮的时候就筑成了。
这时传来苏峻军队击鼓整队的声音，大家都害怕他们前来攻击，孔坦淡定地说：“大家尽可放心，如果苏峻进攻白石，必须等待东北风大的时候，使我方的水军无法前来相救，今天天晴无风，他们必定不会来的。他们之所以整队，一定是派军队去攻掠京口以东的地区。”
结果果然如同孔坦分析，陶侃派庾亮率二千人据守白石，后来苏峻率领步骑一万多人前来围攻，士兵们都非常恐惧，庾亮激励全军将士拼死奋战，苏峻只好退兵。
义军多次与苏峻军队交战，连连失利，孔坦向陶侃建议说：“本来不召郗鉴来是要防卫石勒，现在只能派遣他回军了，虽然晚了一点，总好过不来。”陶侃便命令郗鉴和郭默回京占据京口，建立了大业、曲阿、庱亭三座壁垒，使苏峻兵力分散，让郭默据守大业。
