隋炀帝的残暴统治，使得各地起义风起云涌。公元611年，王薄首先在山东长白山（今章立、邹平、长山等县交界处）起义，活跃在齐郡（今济南）、济北郡（今茌平）一带。接着全国出现了几十支起义队伍，最后各地起义军汇合成三支强大的队伍：一支是由窦建德领导的河北起义军，一支是由翟让领导的瓦岗军，一支是由杜伏威领导的江淮起义军，其中瓦岗军力量最大。
瓦岗军的首领翟让，是韦城（今河南省滑县）人，在东郡（今河南省濮阳县）衙门做法曹（管理监狱的小官）。后来，因为一点小过，被关进监狱，判了死刑。狱卒黄君汉平日很敬佩翟让，看到翟让突遭横祸，非常同情他。一天夜里，趁天黑无人，黄君汉偷偷地对翟让说：“现在天下大势已经看得很清楚了，像您这样的人才，难道就这样在监狱里等死吗？”翟让说：“我现在好比是被关在圈里的猪，由不得自己啊，是死是活全靠您！”黄君汉急忙打开翟让身上的枷锁，让他逃跑。翟让一边道谢，一边哭着说：“蒙您救助，我得以死里逃生。可是，我走了以后，您怎么办呢？”黄君汉生气地说：“你这是什么话！我看你是个有抱负的人，将来能干出一番拯救百姓的事业，才不顾个人安危放了你，你怎么像个小孩子一样哭哭啼啼呢？你只管去干大事业吧，不要为我担心。”说完，两个人就分手了。
翟让逃出东郡，回到韦城老家。这时候，他家乡的农民正在酝酿起义，他和哥哥翟弘、侄儿翟摩侯，还有同郡的青年勇士徐世
一天，瓦岗寨门口突然来了一个衣衫褴褛的人，要见翟让，卫兵把他带到翟让那里。原来他就是远近闻名的李密。李密出身于贵族家庭，父亲是隋朝有名的武将，被封为蒲山公。李密本是杨素的儿子礼部尚书杨玄感手下的将官。杨玄感起兵反隋，被隋炀帝打败，李密也被捉去。在押送的路上，李密逃了出来。他在外面流浪了两三年，穷到吃草根、啃树皮的地步。隋朝官府到处追捕他，最后他终于上了瓦岗寨。
李密是个很有才干的人，又做过隋朝的官，政治斗争经验丰富，指挥作战的本领高强。他看到瓦岗军力量越来越大，可只是袭击来往官兵、抢劫运河上运货的船只，没有远大的政治目标，便给起义军的将领们分析形势。他对翟让说：“如今杨广昏庸残暴，老百姓怨声载道，这和秦朝末年刘邦、项羽起兵时候的形势完全一样。凭您的才干，又有精锐的兵马，完全可以席卷洛阳和长安，推翻隋朝！”李密的分析，使农民军的首领眼界大开，对李密十分钦佩和信任。接着，李密又去说服瓦岗军周围的小股农民起义军和瓦岗军组成联军，共同作战。这样，瓦岗军越来越壮大，成为一股强大的反隋力量。
公元616年，瓦岗军在翟让、李密的指挥下，打下金堤关（今河南省滑县南），攻下荥阳附近的几个县城，直逼荥阳城下。
荥阳地势险要，是通洛渠入黄河的枢纽，自古是兵家必争之地。瓦岗军围困荥阳，吓坏了荥阳太守（一个郡的最高长官）杨庆，他急忙向隋炀帝告急。隋炀帝任命张须陀为荥阳通守（一个郡的副长官），带领二万精兵，去援救杨庆。
张须陀是隋朝有名的猛将，王薄领导的农民起义军就是被他镇压下去的。过去，他曾几次打败翟让，所以翟让听说张须陀带兵来救荥阳，很紧张。李密和他研究，决定“智取”，由翟让带领部分兵力迎击张须陀，李密把大部分兵力埋伏在荥阳大海寺北边的树林里，徐世勣和王伯当分别埋伏在大海寺的两侧，摆成口袋形的阵势，等着张须陀的到来。
翟让按照计划行动，边战边退，把张须陀引入埋伏圈。只听咚咚咚三声鼓响，左边徐世勣，右边王伯当，背后李密，一起杀出，把张须陀团团围住。
张须陀急忙下令撤退。可是，退路早被截断。隋军乱成一团，被瓦岗军杀得尸横遍野，溃不成军。张须陀也送了命。
经过这一场战斗，李密在瓦岗军的威信提高了。李密不但号令严明，而且生活朴素，凡是从敌人那里缴获来的钱财，都分给起义将士。日子一久，将士们就渐渐心靠拢之。第二年（公元617年）春天，李密劝说翟让，趁隋炀帝在江都巡游、东都空虚的机会，进攻东都。瓦岗军派人到东都刺探军情，被隋朝官员发觉，加强了东都的防御。李密就改变计划，提议先打东都附近的兴洛仓（在今河南巩县）。
兴洛仓也叫做洛口仓，是隋王朝建造的最大的一个粮仓。仓城周围二十多里及城里挖了三千个大窖，每个窖里贮藏着八千石粮食。这都是隋王朝多年来从各地农民身上搜刮来的。
翟让、李密两人带七千名精兵攻打兴洛仓。这些兵士原是流离失所的农民，一听得攻打官府的粮仓，个个摩拳擦掌，勇气百倍。他们向兴洛仓发起猛攻。驻守在兴洛仓的隋军还想顽抗，但是怎么也抵挡不住像猛虎一般的瓦岗军。兴洛仓被攻破了。
瓦岗军攻破兴洛仓以后，立刻发布命令，开仓分粮。兵士们打开一口口粮窖，让老百姓尽情地拿。受饥挨饿的农民从四面八方拥向粮仓，头发花白的老人，背着孩子的妇女，一个个眼里带着激动的泪花，前来领粮。大家对瓦岗军的感激心情，更不言而喻。
接着，瓦岗军又打败了东都派来的隋军救兵。到这时候，瓦岗军的指挥权渐渐集中在李密手里。翟让觉得自己的才能不如李密，就把首领的位子让给李密。大家推李密为魏公，兼任行军元帅，改年号为永平。李密封翟让为司徒（相当于丞相）。洛口仓扩建为洛口城，作为政权所在地。
瓦岗军在洛口建立了自己的政权后，乘胜攻下许多郡县，隋朝官吏兵士纷纷投降。南北起义军也纷纷响应，前来归附。瓦岗军一面继续围攻东都，一面发布讨伐隋炀帝的檄文，声讨炀帝的罪恶，号召百姓起来推翻隋王朝的统治。这样一来，整个中原都轰动了，李密成了中原起义军的领袖。
正当瓦岗军全盛的时候，内部却发生了严重分裂。翟让把首领位子让给李密后，翟让手下有些将领很不服气。有人劝翟让把权夺回来，翟让却总是笑呵呵地不当回事。但是这些话传到李密耳朵里，李密就很不高兴。李密的部下怂恿他除掉翟让。李密为了保全自己的地位，竟起了歹心。
有一天，李密请翟让喝酒，在宴会中让翟让的兵士都下去了。李密假意拿出一把好弓给翟让，请他试射。翟让转过身子，刚拉开弓。李密布置好的刀斧手就动起手，把翟让砍倒了。这件事在起义军中造成了不良影响。
当时，瓦岗军攻打东都洛阳，洛阳虽绢帛如山，但粮食匮乏，而瓦岗军粮食充裕，衣服却不足。洛阳守将王世充请求以绢帛换粮食，李密的部下为了从中牟利，怂恿李密同意。李密居然没有发现其中有诈，没有反对。洛阳得到粮食，战斗力更强了，对瓦岗军很不利。正在攻打洛阳的时候，瓦岗军又与北上的宇文化及的人马发生冲突，结果损失惨重。王世充不容李密喘歇，趁机偷袭瓦岗军。瓦岗军大败，很多人投降了王世充，号称百万的瓦岗军就这样迅速瓦解了。李密无奈之下只好率领两万余部去投降了李渊。李渊热烈欢迎他，当成贵宾，常称李密为弟，还将表妹嫁给他。但后来李密又嫌弃官小，对李渊说想回山东收服部下，帮李渊攻下洛阳。李渊表面上答应了他的要求，后又设计除掉了他。
轰轰烈烈的瓦岗军起义就这样失败了。