在孟良崮战役中，陈毅（左一）粟裕（左二）在视察炮兵阵地
粟裕和陈毅念念不忘张灵甫及其74师。1946年9月，陈毅指挥山东野战军在泗县攻城失利后率部退到淮阴休整。张灵甫借机趁火打劫，淮阴大战历时9天，张灵甫率74师突破了淮阴城门，这是陈毅与张灵甫的第一次交手。在涟水，还是张灵甫和他的74师，共产党军队与之进行了14昼夜的涟水保卫战，最终被迫放弃涟水城。几次交手张灵甫均占了上风，如果有机会，陈粟当然是要报一箭之仇，可没想到，机会这么快就被粟裕抓住了。
解放战争时期，在军用地图前，正在指挥作战的粟裕。
孟良崮战役，按照预定计划，于5月13日黄昏发起。粟裕为便于靠近指挥，率轻便人员组成前方指挥所，进驻坦埠以西的艾山老君洞。从这里向南直到孟良崮，是一片开阔的山间平地。按照惯例，陈毅坐镇东王庄，负责全局；粟裕前移艾山，负责战场指挥。粟裕下达了详细作战计划，同时下令，各级指挥员全部到第一线督战，竭力压缩包围圈。
在各路军中，粟裕想到了此时正孤悬敌后的6纵。5月12日，王必成收到华野指挥部的电报，在电报中，要求王必成纵队以急行军速度，在48小时内赶到前线，并抢占垛庄，切断74师的唯一退路。在华野所有纵队中，最恨74师，也最想打74师的，非王必成纵队莫属。在二战涟水中，有“王老虎”之称的王必成却打了一场窝囊仗，损兵折将不说，还丢了涟水。所以当王必成奉命南下鲁南前对粟裕提出的唯一要求是：“打74师，绝对不要忘了我们纵队。” 在鲁南，王必成按照粟裕的要求，暂时停止攻击，只进行隐蔽战备，行踪从来没有暴露过。论距离，6纵在各纵队中并非最近，但考虑到该纵队与74师的关系，同时也是借机调回其与主力会合，选择6纵是最合适不过的。
事实也证明了粟裕的判断。从鲁南回师垛庄，沿途山峦重垒，道路崎岖，王必成后来形容是“飞兵激渡”，前卫硬是两天跑了100多公里，提前8小时便到达垛庄以南。
垛庄是74师的后方补给点。在垛庄的两翼，各有黄伯韬、李天霞部队，前面又有74师主力在孟良崮守着，看来是没有多大问题，因此张灵甫开始只留了一个辎重连进行守备。王必成纵队有两万余精兵，并且还是从根本没有预料的后背袭来，一个连的辎重兵又岂能招架得住。当张灵甫好不容易集中一千余人，赶到垛庄加强防务时，王必成已提前一小时攻下垛庄，74师唯一的后路被截断了。
孟良崮战役期间，华野战士正在向固守山头的整编74 师冲击
奇袭垛庄，封闭合围口，这又是国民党方面所没有想到的。粟裕生前曾多次肯定这一着，他说，“此次我军诱敌深入，而又预伏第六纵队于鲁南待机，这着棋，一旦动起来，全盘就活了。”
当时，由于1纵独立师第1、第3团截断急造公路，第74师2万余人被困山间，动弹不得。如果尾追而来的华野展开攻击，后果不堪设想。张灵甫在前路受阻、后有追兵、华野各部正分头抢占孟良崮制高点的危急情势下，决定上山退守。
74师退守孟良崮，已将所有火炮辎重都抛在了山下，但也有参加过战役的74师老兵证实说，其实孟良崮有一些上山的平坦道路，而且74师有少量装甲车，可以将山炮、迫击炮、战防炮拖拽上山。即便这样，因垛庄失守，得不到弹药补给，在后来的几天，74师传统的步炮协同也已难以发挥出以往的威力。
时任顾祝同手下营长的郝伯村，后来曾一再反问：“为什么退到这个石头荒山、无水高地？诸葛亮训示马谡，依山靠水安营扎寨，是兵家千古原则。如果我是当时的七十四师师长，在战术上，应径向临沂平原撤退，再俟机北攻。陈、粟是不敢南下追击的。”
作为一师之长，张灵甫此时考虑的是稳住阵脚，尽快向友军靠拢。山地作战，抢占制高点，占据有利地形掌握主动权，这也是普通的军事常识。如果张灵甫不上山，在粟裕的原计划中，该上山的就是叶飞的第1纵队。张灵甫上山造成战场局势骤变，粟裕乃命叶飞暂停对孟良崮的攻击，等待其他纵队前来会合，一起围攻。 从叶飞的战后总结看，他认为张灵甫的上山干扰了粟裕的原定部署，74师因此多支撑了两天，使得华野险些“打出长征”的后果来，否则的话，如果解放军把在运动中没有防御阵地的74师压在孟良崮以北山谷下切割，居高临下地打，依照叶飞的估计：“不会超出五小时。”