此时杨玄感正在黎阳（今河南滑县）督运粮草，负责前线部队的后勤保障工作。这个工作在一定程度上给杨玄感造反提供了便利，因为只要切断前线部队的粮草供应，远在高句丽战场的百万隋军就得挨饿，到时候高句丽军队会自动解决他们。
杨玄感是这么想的，实际上也是这么做的，只是没有做绝。他没有完全掐断前线的粮草供应，以免打草惊蛇，提前暴露造反的意图。他故意延迟运粮船出发的时间，以至于运粮船不能按时到达前线，给前线的隋军造成了一定的干扰。
虽然杨广发现了这个情况，但被杨玄感以水路盗贼多为由忽悠了过去。
拖延前线粮草供应只是杨玄感造反计划中的第一步，接着他派人偷偷跑到高句丽前线，把弟弟杨玄纵和杨万硕叫回来一起造反。由于得到杨玄感的好朋友，时任兵部侍郎斛斯政的帮助，两人顺利逃回了隋朝国内。
杨玄感还派家奴前往长安，把在长安的杨氏兄弟和铁杆朋友都叫到了黎阳，一同谋划造反大计。
真可谓：打虎亲兄弟，造反亲友团！
由此我们可以看出，这是一起典型的“家族式”造反活动。
当时从长安和杨氏兄弟一同赶往黎阳的人中有一个贵族青年，他的名字叫李密。
此人正是成语“牛角挂书”的男主角，正是由于他在路上偶遇杨玄感的老爹杨素，并得到杨素同志的高度赞扬，李密才得以和杨玄感成为要好的朋友。
就在李密和杨氏兄弟快马加鞭奔赴黎阳的同时，身在黎阳的杨玄感也没闲着，现在他需要解决一个十分关键的问题：以什么名义招募一支军队？杨玄感负责的是后勤工作，手里能用的兵力实在太少。不过，这个问题很快就被他解决了。
当时右骁卫大将军来护儿正率领水军舰队驻扎在东莱海边，准备乘船渡海，从水路进攻平壤，但还没有出发。于是，杨玄感找了一个家奴，把他伪装成从来护儿处跑来告密的使者。然后，这个冒牌的“告密者”煞有介事地向杨玄感报告：因为耽误水军出发时间，来护儿造反了！
就这样，主仆两人在众人面前自导自演了一出“贼喊抓贼”的经典戏码，“来护儿谋反”就成了杨玄感招募军队的幌子。
六月初三，杨玄感进入黎阳城，一进城他就开始到处抓壮丁充军。就连运送粮草的民夫和船工他也没有放过，只要是身强体壮者一律拉来当兵。之后他又给黎阳周边郡县发去紧急公文，以讨伐来护儿的名义，要求各郡县调集军队来黎阳集合。
很快，杨玄感就通过上面两种方式拉起了一支一万多人的军队，一支兵民混合的杂牌军。
现在我们来说说这支军队的武器装备情况，很有意思！
这支临时拼凑起来的队伍大部分是抓来的老百姓，手里都没有什么像样的武器和甲胄，但这仍然没有难倒杨玄感。
他找来很多结实耐磨的帆布，然后充分发扬创新精神，用帆布做成简易的头盔和铠甲。其实就是给士兵多穿了件衣服，不过帆布也是有一定防护能力的。
不光甲胄体现了朴素节约的精神，武器也十分接地气，用的都是单刀和柳条做成的盾牌，连弓箭都没有配备。
靠着这支乡土气息浓厚，武器装备落后的杂牌军，贵族公子哥杨玄感开始了人生中的第一次造反，同时也是最后一次。
目标：洛阳
杨玄感刚刚组织好造反军队，李密和杨氏兄弟就赶到了黎阳。看到老朋友李密到来，杨玄感大喜。虽然李密也是贵族子弟，但他和一般的纨绔子弟不同。正因为不同，他的命运才充满了传奇色彩。
他很喜欢读书，尤其喜欢读兵书，看过的兵书都可以背诵下来，简直就是兵法复读机。更重要的是，李密志向远大，谋略过人，是一个难得的人才。所以杨玄感一见到李密就任命他为高级参谋，给自己出谋划策。
杨玄感首先向李密咨询下一步的行动计划，“兄弟一向以天下为己任，现在机会来了，你说说，咱们下一步该怎么办吧？”
李密微微一笑，胸有成竹地说道：“在下有上中下三策供先生选择。现在皇帝远在千里之外的高句丽，只要您率领军队火速赶往蓟州（今北京一带），占领临渝关（今山海关），切断隋军的退路。过不了一个月，他们的粮食就会吃完，到时候隋军不是投降高句丽就是溃散逃跑，杨广就可以不战而擒了，这是上策。”
听完李密的上策，杨玄感沉默了一会，然后问道：“那中策呢？”
李密接说出了第二条计策，“关中四面都有要塞屏障，易守难攻，您可以向西夺取长安。只要攻陷首都长安，即使杨广从高句丽跑了回来，他也失去了国家的根本，到时候我们就可以慢慢图谋天下了。”
说完，李密静静地等着杨玄感发表意见。不过，杨玄感没有发表任何意见，只是继续追问道：“下策是什么呢？”
于是李密把计策和盘托出：“下策就是挑选精锐兵马，昼夜兼程，攻打距离咱们最近的东都洛阳。但只怕现在已经有人跑到洛阳告密了，洛阳方面也应该做好了防御准备。如果一百天内还没有打下洛阳，等到全国各地的援军到来，形势就危急了！”
李密刚说完下策，杨玄感马上进行了反驳：“你说的不对，现在文武百官的家属都在洛阳，如果我们拿下洛阳，百官必然人心大乱。再说路过城池而不去攻打，又怎么显示我军的威力呢？所以，你的下策就是我的上策。”
李密还想再说什么，不过见杨玄感态度如此坚决，到嘴的话又咽了回去。李密太了解杨玄感了，他是一个骄傲自负的人，他决定好的事情别人很难改变。
选好进攻目标，杨玄感便率军一路南下，马不停蹄地向洛阳进军。进军途中，杨玄感还不忘扩大革命宣传。
他声称自己起兵是为了推翻残暴无道的暴君杨广，救万民于水火。听了杨玄感的广告宣传， 很多穷苦百姓纷纷跑来参军入伍。就连很多达官贵族子弟也纷纷加入杨玄感造反的队伍，其中包括韩擒虎的儿子韩世谔、观王杨雄的儿子杨恭道、虞世基的儿子虞柔、来护儿的儿子来渊等人。
这群野心勃勃的贵族公子哥准备趁此机会大显身手，而杨玄感也对他们委以要职。
没过几天，杨玄感的部队人数就从一万多人迅速增加到了十万多人，整整翻了十倍（可见民心所向!）。杨玄感带领这支规模庞大的军队渡过黄河，兵锋直指东都洛阳。
洛阳是隋朝的陪都，也是经济最繁荣的城市之一，在政治和经济两方面都有着举足轻重的地位。虽然只是陪都，但洛阳的名号却比首都长安还要响。
此时守卫洛阳的是杨广的孙子越王杨侗和民部尚书樊子盖，一个十岁的孩子和一个七十岁的老头。
正如李密所料，杨玄感刚刚起兵，就有人跑到洛阳告发了。一听造反的人是杨玄感，杨侗和樊子盖大惊失色。他们火速把情况通报给远在国外的杨广，并向各地下发紧急通告，要求派兵援救洛阳。
