兴平元年（194）曹操再次出兵讨伐徐州，当时张邈为陈留太守，陈宫留守东郡守备，二人皆趁机背叛曹操，张邈就同弟弟张超和陈宫等人迎接吕布，请他当兖州牧，占据濮阳。
当时张邈、张超非常有声望，吕布有杀董之功，曹操又已经基本得罪了兖州的士族门阀，所以兖州所属郡县纷纷响应吕布背叛曹操。
那时只有鄄城（今山东鄄城北，兖州治所）和东郡的范（今山东范县东南）、东阿（今山东阳谷东北）三县尚在曹操掌握之中，分别由司马荀彧和寿张令程昱、东郡太守夏侯惇等坚守，形势异常危急。
起初，张邈、陈宫乘机在兖州反曹，暗中迎接吕布。当时荀彧和寿张令程昱守鄄城，吕布到后，张邈派刘翊告诉荀彧：“吕将军来帮助曹使君进攻陶谦，应该马上供给他们军备粮食。”
众人疑惑，唯荀彧知其计，立即命令军队加强防，并急召东郡太守夏侯惇。而兖州诸城皆响应张邈，投靠吕布阵营。当时曹操率大军出征，留守的兵力本来就不多，还被陈宫带走了一部分，而且很多人都与张邈、陈宫勾结。夏侯惇到后，乘夜诛杀谋反者数十人，这才安定了军心。
曹操征讨陶谦时,一开始是留下夏侯惇守兖州重镇濮阳。但张邈、陈宫背叛，迎奉吕布之后,由于曹操的家都在鄄城,荀彧知道吕布进入兖州之后立刻夏侯惇让带领军队前往鄄城,在途中与吕布遭遇,两军交战。
吕布趁机夺取了濮阳,又偷袭得到了夏侯惇的辎重,还派将领假装投降,把夏侯惇活捉了起来，夏侯惇军中一时震动。但夏侯惇的得力将领韩浩守在营门口,把各将领都召集在一起,让他们去安定手下的士兵,不得贸然行动,夏侯惇的军队才慢慢稳定下来。
韩浩到了夏侯惇的住所,怒斥挟持夏侯惇的人:“你们这些凶残的叛逆者,居然敢将大将军挟持作为人质,难道你们不想活了？而且我身负讨伐叛贼的使命,难道我会因为一个大将军,而放任你们为所欲为吗？”又哭着对夏侯惇:“国法如此,我不得不这样做!”立即召集士兵攻打劫持者。劫持者害怕得连连叩头,:“我们只求给我们路费,让我们回去罢！”韩浩痛斥劫持者的行为,将他们全部杀了。同时也将夏侯惇救了出来。
后来曹操知道了这件事，对韩浩:“你的做法可以作为万世之法。”于是发布命令,今后如有劫持人质的,连人质一同消灭,不要顾忌人质,以后劫持人质的事再也没有发生。
那时豫州刺史郭贡受吕布煽动，率众数万大军来攻打鄄城，军中甚惧。郭贡要求见荀彧，荀彧准备前往，夏侯惇等人：“您是一州的屏障，如果前往一定会有危险的，不可以去。”
荀彧：“郭贡与张邈他们，平素并没有什么往来，现在来得急，计划肯定还没有定下；现在趁他计策未定来游，就算不能帮助我们，也可以使他保持中立，如果先怀疑，那他就会恼怒而定计了。”于是出城会见郭贡，郭贡见荀彧毫无惧意，认为鄄城易守难攻，于是引兵而去。
荀彧退郭贡之后，吕布军中投降的人又来陈宫正要亲自带兵攻取东阿,还让汜嶷攻取范县,官吏百姓都不由恐慌起来。此时荀彧对程昱道:“现在兖州整个反叛,只有这三个城池了。陈宫等人以重兵逼临城下,若非有人深入其中,团结一心,这三个城也必生变动。您是民众的希望,如能回城劝他们,我们还是可以成功的！”
程昱于是归返,路过范县,劝县令靳允:“听吕布拘捕了您的母亲、弟弟、妻子、儿女,这是孝子所绝对不能容忍的!现今天下大乱,英雄并起,必定会有命世之才,有能力平息天下之乱的人出现,这就需要智者审慎地加以抉择。得明主的一定昌盛,失明主的一定败亡。陈宫叛变,迎接吕布,而众城都去响应,好像他们能有所作为似的。然而在您看来,吕布是个什么样的人啊!那吕布粗鲁而六亲不认,刚愎而横蛮无礼,不过是个匹夫英雄罢了。陈宫等人以势利大进行合作,不能帮助您的。他们兵士虽多,最终必定不会成功。曹使君杰出的智慧韬略世所稀有,几乎可以是上天所授。您一定能固守范城,我将守住东阿,这样,像田单那样的收复失地的功劳就可以建立了。谁会去违背忠义顺从恶人而导致父母双亡呢?希望您仔细考虑这件事！”
靳允流着眼泪:“我不敢有另外的心思。”这时汜嶷已经在县里,靳允于是召见汜嶷,埋伏兵士刺杀了他,回去约束兵士守城。程昱又派骑兵堵住仓亭津渡口,陈宫来到,不得渡河。
程昱到了东阿,东阿县令枣祗已经率领官吏民众,依城坚守。又有兖州从事薛悌与程昱共同谋划,终于保全了三城,得以等待曹操回归。
在张邈、张超、陈宫背叛，吕布进入兖州之后，就算有荀彧、程昱等人保住了鄄城等地，但曹操依然陷入了极为被动的局面。
那时曹操诸多部下背他而去，有徐翕、毛晖等人，其中比较出名的是毕谌和魏种。
曹操成为兖州牧后，任命东平人毕谌为别驾，兖州之乱后，张邈劫走了毕谌的母亲、弟弟、妻子和儿女，曹操便辞退毕谌，对他：“你的老母亲在叛贼那里，你也可以离开我。”但毕谌却向曹操跪下叩头，表示决不因此而怀有二心，曹操被感动的流下了眼泪，对其十分称赞。
但随后毕谌还是离开了曹操，归附了张邈。
而魏种一直以来都被曹操非常欣赏，曹操甚至亲自举他为孝廉。吕布进入兖州后，曹操很多的部下背离，但曹操却对众人到：“只有魏种一定不会反叛我。”
结果魏种也背离了曹操，曹操知道后大怒：“只要你魏种南逃不到越地，北逃不到胡地，我一定不会饶恕你！”
此时，虽然曹操在徐州连战连捷，相继打败了刘备、曹豹，但离攻陷徐州全境还依然很早，就连陶谦也不是一时三刻就可以收拾的了的，而且在张邈背叛吕布入主兖州的消息传来之后，曹操军人心思变，惶恐不安，已经不再具备了继续在徐州作战的条件。
而且哪怕就算曹操孤注一掷放弃兖州最终成功地控制了徐州，他也很难守得住，曹操在两次入侵徐州作战时，手上沾了太多徐州人的血，曹操已经不可能得到徐州老百姓的心了。
所以当时曹操回军救援兖州已经是必然。这时荀彧、程昱和夏侯惇等人为曹操守住了兖州治所鄄城，为曹操在兖州保留了一片根据地就显得非常重要了。
只要鄄城还在，兖州就不算被吕布夺走，只要曹操在兖州还有领土，那么大军归还，胜负犹未可知。