周庄王十三年（齐桓公二年，鲁庄公十年，前684年）春，即位还不满一年的齐桓公不知道为了什么，也不等管仲改革取得成效，再次发兵攻打鲁国。双方战于长勺（今山东莱芜东北）。这一次，鲁国出了个神人曹刿（guì）。他以在野的身份晋见鲁庄公，协助鲁庄公指挥鲁军以坚守耗尽了齐军的锐气，最后“一鼓作气”战胜了强敌。

经历了这次失败后的齐桓公仍不甘心，当年六月，又联合宋国一起攻打鲁国，但这一次还没等发起攻击，宋军就被鲁国集中兵力先击败了。齐国见宋军已败，大概自忖（cǔn）无力单独战胜鲁军，也随即退军而去。

齐国连续进攻鲁国是一件很怪异的事。鲁国经过去年的干时（今山东淄博桓台县南）之败后，已经顺从齐国的意愿杀死了公子纠，逼死了召忽，把管仲还给了齐国，此后也没见有什么违逆齐国的地方，除了理解为齐桓公急于通过战争树立自己的威望之外，很难理解他为什么不依不饶的非要打人家不可。这一点从《管子·匡君大匡》能够看得比较清楚，只是《匡君大匡》中关于很多史事的记载与其他史书多有抵牾（wǔ），不知是什么缘故。

此后，大概是为了找回两次伐鲁不利的面子，齐桓公调转枪口冲小国谭国去了，理由是当年出奔经过谭国时没受到礼遇，即位后诸侯来贺，谭国又没到。可是他要是真的这么恨“失礼”的谭国，为什么不先去打它呢？可见这不过是个借口。

当年十月谭国灭国，齐桓公算是找回了面子，这才消停下来，一直等到三年后的周釐（ xī ）王元年（齐桓公五年，鲁庄公十三年，前681年）才重出江湖。

这一次重出江湖是因为宋国在前一年发生了南宫长万弑宋湣公之乱，为了平定宋乱，齐桓公邀请宋、陈、蔡、邾（zhū）会于北杏（今山东聊城东阿县北）。召集诸侯解决某个国家的内乱，本来是周天子的权限，现在由一个诸侯国来做这件事，完全把周天子撇在一边，可是破天荒头一次。大概正是因为这个原因，鲁国和遂国都没听齐桓公的招呼。

这个时候，管仲相齐已有五年，国家攒了多少钱不太好说，但按他那套办法练了五年的兵应该已经很有战斗力了。有这样的军队为倚仗，齐桓公当然不会客气，北杏散会之后立马挥师灭了遂国，然后兵锋直指鲁国。鲁国战败，为了自保只好牺牲遂国的利益，承认齐国吞并遂国。

当年冬天，齐桓公和鲁庄公会于柯（今山东聊城东阿县西南）。这本来是鲁国向齐国表示服软的一次会盟，可是鲁国又出了一个姓曹的神人，凭一己之力改变了这次会盟的结果。

这回这个神人叫曹沬（mèi），是鲁国的一个将军。有人说他其实就是那个曹刿，我们不知道是不是真的。曹沬在会盟时趁着大伙都没注意，突然劫持了齐桓公，逼迫齐桓公归还侵夺的鲁国领土。刀都架在脖子上了，由不得齐桓公不答应曹沬的要求，但齐桓公可不是个善茬，他一摆脱威胁就想食言，管仲劝他说：“不返还鲁地而杀掉曹沬，虽然逞了一时之快，但却会失信于诸侯，这样将会失去‘天下之援’。”齐桓公觉得有理，这才心不甘情不愿的践行诺言。

齐桓公践行了诺言，可是刚刚跟齐、陈、蔡、邾会于北杏的宋国却反悔了。还是这年的冬天，“宋人背北杏之会”。齐桓公哪能容忍这个！第二年（周釐王二年，齐桓公六年，鲁庄公十四年，前680年）春天，他召集陈国和曹国一同伐宋，同时“请师于周”。大概周釐王也想趁这个机会重新树立王室的权威，也就给了齐桓公面子，派单伯率军相助。

这一来，齐桓公的擅行讨伐变成了合法行为，“尊王”的旗号算是让他打上了。本来只在军事上处于劣势的宋国，在道义上也处在了下风，如果不认熊恐怕就只能被灭国了，所以不得不参加当年冬天由单伯主持，齐、卫、郑参加的鄄（juàn，今山东菏泽鄄城县西北）之会，服了软。

这一次鄄之会由代表周天子的单伯主持，而不是由一心想要称霸的齐桓公主持，所以很不合齐桓公的心思，于是他在第二年（周釐王三年，齐桓公七年，鲁庄公十五年，前679年）的春天抛开周天子，召集了第二次鄄之会。这次与会的除了第一次的宋、卫、郑之外还有陈国。没了周天子的代表，齐桓公终于如愿当上了“会长”，从此“齐始霸也”。

当上老大的齐桓公还真给兄弟们办实事。当年秋天，本来跟宋国打了好几仗的他不计前嫌，联合宋、邾讨伐背叛宋国的郳（ní，今山东枣庄滕州市东）。这一仗打的非常划算，因为它引出了郑国的趁机背盟侵宋，给了齐桓公秀肌肉的机会。

郑国这时候的国君是刚刚复位两年的郑厉公。他是春秋小霸郑庄公的次子，在郑庄公死后的郑国内乱中，是唯一一个两次夺位成功的厉害角色，可是算他倒霉，这一次他遇到了齐桓公，他的那点厉害使不出来了。

周釐王四年（齐桓公八年，鲁庄公十六年，前678年）的夏天，也就是晋武公“曲沃代翼”，被正式册封为晋侯的那一年夏天，齐桓公再次替宋国出头，联合宋、卫伐郑，再加上楚国因为郑厉公复位没及时通知自己也来伐郑，郑厉公招架不住，也不得不服了软。

宋国、鲁国和郑国在当时都算是有相当实力的大国，先后都败于齐国之手，这一来大家都看到了齐国强悍的实力，加上管仲帮齐桓公塑造的仁义守信形象，于是诸侯们都纷纷跑来归附。当年十二月，鲁、宋、陈、卫、郑、许、滑、滕等八国跟齐桓公会于宋国的幽邑（地望不详），从此，齐桓公的霸主地位算是得到了确立，而郑厉公则终其一生也没再敢跟齐桓公叫过板。