翟让被他说活了心向他问计李密对翟让说“现在天下大乱农事俱废你

翟让被他说活了心，向他问计，李密对翟让说：“现在天下大乱，农事俱废。你的兵马又多，如若不积聚粮草，一遇强敌便会土崩瓦解。只有占领重镇荥阳，积聚粮草，休整兵士，才能徐图天下。”

翟让认为李密说得很有道理，便采纳了李密的建议，攻克了金堤关（今河南荥阳北）直逼荥阳。隋炀帝为保住荥阳这一军事要地，派猛将张须陀征讨瓦岗军。张须陀以前曾多次打败过瓦岗军，这次听说张须陀又来讨伐，瓦岗山军心不禁大动，翟让准备退让以避张须陀。李密说：“张须陀有勇无谋，其官军也是将骄兵疲，大家不必惊慌，我有一计可一战而胜。”翟让等半信半疑只好列阵迎战。

瓦岗军与张须陀的部队一交战便有意后退，十分轻敌的张须陀不知是计，立即挥师急追，结果陷入了李密早已布置好的包围圈。隋军在瓦岗军的前后夹击下大败，张须陀被杀。

荥阳一役使李密名声大振，翟让佩服李密的军事才能，他让李密另率一支队伍，号称“蒲山公营”，这是瓦岗军中战斗力最强的精锐。

此后，李密凭借着他的谋略，与翟让一起，多次击败官军，声势越来越大，起义军号称百万之众。势力壮大了，矛盾也就随之而来了。瓦岗军内部分成了两派，一派以翟让为首，多是瓦岗军的旧部；一派以李密为首，主要是隋朝降将。

这时，有人向李密密报，说翟让的部将王儒信劝他夺他的军权，翟让的哥哥翟弘劝他当皇帝。李密惟恐真的发生这种事，决定先下手。

公元年月，李密在行军元帅府设宴，翟让、翟弘、翟摩侯以及徐世、单雄信等将领全都到场。李密借故遣走翟让的卫士，然后声称新得一张宝弓。翟让是有名的射手，爱弓如命，拿来把玩。李密的亲信蔡建德趁机举刀猛砍，翟让顿时身首异处。翟弘、翟摩侯随后被杀。

李密杀死翟让后，瓦岗将帅相互猜忌，开始走下坡路。

公元年，宇文化及发动江都兵变，杀死隋炀帝后，率领余万兵将北上，想打回东都洛阳。在东都称帝的越王杨侗怕皇位被宇文化及抢走，而守城大将王世充又屡吃进攻洛阳的李密的败仗，杨侗很为难。大臣元文都向他献计，让他招降李密，条件是将宇文化及赶走。杨侗纳谏，派人与李密联系。