瓦岗军首领翟让，本是东郡的一吏，因罪了司，被打进牢监，被判了死罪。有狱吏同情他，跟他说：“我你是条汉，怎在牢等死呢。”一夜，狱吏偷偷砸了镣铐，打牢门，翟让放了。
翟让逃了牢监，逃东郡附近的瓦岗寨，招集了一些贫苦农民，组织了一支义队伍。一些青年人，听消息，投奔他。其中有一青年叫徐世积（音ｊī），年纪才十七岁，不但武艺高强，且很有计谋。
徐世积劝翟让说：“附近是贫苦的老乡，我不应该打扰他；我荥阳一带，往的豪门富商很，不那筹办点钱粮。”
翟让听从徐世积的意见，带领农民军荥阳一带，专门打击官府富商，夺取批资财。附近农民投奔翟让的越越，很快就展一万人。
李密投奔翟让，帮助翟让整顿人马。那候，附近各有一些股的农民队伍。李密各处联络，说服他联合，听从翟让指挥。翟让十分高兴，跟李密渐渐亲近。
翟让虽有了很人马，但是他并己推翻隋炀帝。李密翟让说：“从前刘邦、项羽，本是普通老百姓，终推翻秦朝。现在皇昏庸暴虐，百姓怨声载，官军部分又远在辽东。您手兵强马壮，拿东长安，打倒暴君，不是轻易举的！”
翟让听了很高兴，说：“您的意见太了，我倒一点呢。”
接着，两人商量了一番，决定先攻打荥阳。荥阳太守向隋炀帝告急。隋炀帝派将张须陀带军镇压。
张须陀是镇压农民军的老手。翟让曾经在他手打败仗，次听说又是张须陀了，有点害怕。李密说：“张须陀有勇无谋，再加他强，骄傲轻敌。我利他的弱点，保管打败他。”
李密请翟让摆阵势，正面迎击敌人；他己带了一千人马在荥阳海寺北面的密林设埋伏。
张须陀欺翟让不是他的手，莽莽撞撞指挥人马掩杀。翟让抵挡了一阵，假装败退。张须陀紧紧追赶，追了十，路越越窄，树林越越密，正是李密布置的埋伏圈。李密一声令，埋伏的瓦岗军将士一齐杀，张须陀的人马团团围住。张须陀虽勇猛，但是被伏兵层层包围，左冲右突，法围，终全军覆。张须陀被义军打死了。
经一场战斗，李密在瓦岗军提高了威信。李密不但号令严明，且生活朴素，凡是从敌人那缴获的钱财，他分给义将士。日子一久，将士就渐渐向着他了。二年（公元６１７年）春，李密劝说翟让，趁隋炀帝在江巡游，东空虚的机，进攻东。瓦岗军派人东刺探军情，被隋朝官员觉，加强了东的防御。李密就改变计划，提议先打东附近的兴洛仓（在今河南巩县）。
兴洛仓叫做洛口仓，是隋王朝建造的最的一粮仓。仓城周围二十，城挖了三千窖，每窖贮藏着八千石粮食。是隋王朝年从各农民身搜刮的血汗。
翟让、李密两人带七千名精兵攻打兴洛仓。些兵士原是流离失所的农民，一听攻打官府的粮仓，摩拳擦掌，勇气百倍。他向兴洛仓猛攻。驻守在兴洛仓的隋军顽抗，但是怎抵挡不住像插翅猛虎一般的瓦岗军。兴洛仓被攻破了。
瓦岗军攻破兴洛仓，立刻布命令，仓分粮。兵士打一口口粮窖，让老百姓尽情拿。受饥挨饿的农民从四面八方拥向粮仓，从头花白的老人，背着孩子的妇女，一眼带着激动的泪花，前领粮。伙瓦岗军的感激情，就不提了。
接着，瓦岗军又打败了东派的隋军救兵。候，瓦岗军的指挥权渐渐集中在李密手。翟让觉己的才不李密，就首领的位让给李密。推李密魏公，兼任行军元帅。
瓦岗军在洛口建立了己的政权，乘胜攻许郡县，隋朝官吏兵士纷纷投降。瓦岗军一面继续围攻东，一面讨伐隋炀帝的檄文，声讨炀帝的罪恶，号召百姓推翻隋王朝的统治。一，整中原震动了。
正瓦岗军胜利展的候，内部生了严重分裂。翟让首领位子让给李密，翟让手有些将领很不愿意。有人劝翟让权夺回，翟让却总是笑呵呵的不一回。但是些话传李密耳朵，李密就很不高兴。李密的部撺掇他除掉翟让。李密了保己的位，竟了狠。
有一，李密请翟让喝酒。在宴中间，翟让的兵士支了，李密假意拿一弓给翟让，请他试。翟让转身子，刚拉弓。李密布置的刀斧手就动手，翟让砍倒了。
打那候，瓦岗军始走了坡路。但是，北方由李渊带领的一支反隋军却正在强。