陈毅的建议，将当时的华东野战军和山东野战军两支队伍合并为统一的华东野战军。1946年9月23日，毛泽东为中央军委起草的电报中特地指出：“在陈毅领导下，大政方针共同决定，战役指挥交粟裕负责。”在著名的孟良崮大捷之后，新华社记者采访了陈毅司令员，陈毅说：“你们不用向我祝贺，我这个人呀，在政治工作上依靠的是谭震林同志，在军事组织指挥上依靠的是粟裕同志。”

    1948年1月27日，中央军委给粟裕发来一封电报。军委的电报说，为了迫使蒋介石改变其集中兵力在江北与我周旋、固守长江的基本战略，将中原战场上的国民党军队吸引20～30个旅到江南，以便于我军在中原歼敌，军委决定由粟裕率领华东野战军的一纵、四纵、六纵组成外线兵团，在集中整训之后渡江南下。先在湘、赣机动作战，与敌人周旋半年至一年，然后在闽、浙、赣边区我党原来的老根据地见机建立根据地，开创南方的解放区。渡江时间可以在2月、5月或秋天。军委要求粟裕认真考虑具体的行动方案，“熟筹见复”。

    粟裕得到中央军委指示后，立即结集部队，北渡黄河，将部队安排在濮阳地区进行整训，进行以水网稻田地区作战和攻坚、巷战为主要内容的军事训练，并积极进行渡江的各种准备，包括派出小分队南下侦察。为了选择渡江地点及确定如何渡江，粟裕还特派曾希圣、孙仲德分别带领一批干部到皖江和巢湖地区工作。与此同时，根据中央的决定，华东野战军第一兵团的干部配备、地方工作、物资后勤等工作也在积极进行。中央决定，由粟裕担任中共中央东南分局书记，由叶飞担任第一兵团副司令员兼副政委，由金明协助粟裕做地方党的工作，由骆耕漠负责南下之后的财经工作。当时，连南下之后对部队的老弱病残的安置、家属小孩的安置都已经做出了具体的计划，在新区使用的银元和由自己发行的“东南流通券”纸币都已经在印制了，可以说是“万事俱备，只待渡江”。而用周恩来和陈毅对粟裕的评价，则叫“心细如发”。

    作为一名党的高级干部，粟裕得到中央命令之后就开始积极准备，以待中央一声令下立即出动。可是，作为一个领兵作战20年的指挥员，特别是曾经在江南长期作战，如今又将重返江南独立作战，担负党中央赋予的重新开辟江南根据地重担的粟裕，对于中央的一个重要决策，对于即将到来的南下江南作战并开创新的解放区的重要任务，进行了多方面的思考。他必须认真领会毛泽东这一决定的战略意图，分析敌我双方的力量对比与分布，考虑好应付可能出现的各种困难的办法并在出发前有所准备，为大部队的南下制定出最佳的行动方案。在这些工作还未做好，心中还没有充分把握之前，他是不会轻易向中央提出自己意见的。

    在反复考虑之后，粟裕认为中央军委的决定的确有大胆与出奇之处，如果他带3个主力纵队南下，打乱敌人的后方，肯定会取得一定的效果。但是，这既是一着妙棋，可又是一着险棋。在仔细权衡华东野战军南下与不南下、我江北主力部队分兵与不分兵的利弊之后，他认为中央军委的决策并非上策，认为不南下会取得更佳的战果。粟裕的基本考虑是：中央作出这样决定的主要目的，是要改变中原战局，在中原打歼灭战，大量地歼灭敌人。事实上，这时在中原地区打大歼灭战的条件已逐渐成熟。

    一是敌人在中原的三条铁路干线和各大中城市的防守上分散了很多兵力，有利于我军在运动之中捕捉战机；

    二是中原地区的平坦地形虽然有利于敌人相互支援，但如果我军破路之后，敌人的重装机械化部队就无法机动，有利于发挥我军徒步行军的长处，迅速集中兵力，实现战役的速战速决；

    三是中原地区背靠山东和晋冀鲁豫老解放区，便于得到支援和安排伤员；