济南，西畔运河，北依黄河，南靠泰山，地势险要，易守难攻。同时又是津浦、胶济两路的必经之地，战略地位十分重要。当时有人口70余万，是国民党山东省省府、第2绥靖区司令部所在地，也是蒋介石赖以支撑华北战局的战略要地之一。国民党军若能固守济南，则可保持徐州防御的稳定；济南、徐州防御稳定，则“北可进出鲁中，南可屏障京、沪，西则连结华中，以便相互策应”。

    蒋介石一直把济南看作仅次于京、津、徐的战略要地。早在1947年2月莱芜战役结束后，为确保济南稳固，就曾亲自到济南布置防务，面授山东省政府主席、第2绥区司令官兼山东省保安司令王耀武统领10万余人的正规军及地方保安部队守备济南，并告诫王耀武：“济南在军事、政治、地理上都很重要，如发生问题，你要负责。”

    1948年春，国民党军陆军总部徐州指挥所根据蒋介石的作战意图，命令王耀武“以济南为中心，集中兵力，坚强固守”。王耀武即以整编第2、第73、第84师守备济南地区，以构成山东防御的中心；以整编第45师指挥保安第6、第8旅及地方团队守备昌乐、潍县地区。企图与兖州李玉堂第10绥靖区部队形成犄角之势。3、4月间，华东野战军山东兵团发动攻势。不到2个月，在胶济路西段和中段歼灭整编第32师，第45师、交警总队、保安团队共8万余人，生俘整编第96军军长兼第45师师长陈金城并收复周村、张店、淄博、博山、潍县、昌乐等中小城镇、广大产粮区和重要工矿区，使山东解放区完全联成了一片。

    胶济路中段战役后，蒋介石由于中原和东北战场处于不利态势，将山东的第75、第8师他调。王耀武预感到华东解放军下一个目标将是兖州。如果解放军攻占并控制了兖州，济南无论如何守不住。即于5月15日，飞到南京面见蒋介石，报告军事情况，并建议放弃济南，将在济南一带的军队撤至兖州及其以南地区，与徐州一带的部队联成一片，巩固徐州至兖州的铁路交通，以利尔后的作战。蒋介石严厉斥责王耀武“不从大处着眼”。强调要“确保济南，不能放弃”。蒋介石说，济南是山东省会和华东战略要地，必须守住济南。若丢失济南，华东及华北解放区就连成一片，并掌握济南至徐州铁路交通大动脉，那时驻青岛的美军就陷入孤立，这在政治上于南京不利，影响美国的援助。因此，无论华东战况如何变化，济南决不可放弃。并给王耀武打气：国军在空军优势的条件下，济南并不孤立，没有后方也可以作战。“济南如果被围攻，我当亲自督促主力部队迅速增援”。还说，“打仗主要是打士气，鼓励士气，首先自己不要气馁。你们如不发奋努力，坚定意志，将死无葬身之地。”

    6、7月间，华东野战军外线兵团在中原野战军配合下，发起了豫东战役，歼灭国民党军近10万人，生俘国民党军兵团司令官区寿年及整编第75师师长沈澄年，并一度解放河南省会开封；山东兵团发起津浦路中段战役，歼灭国民党军6.3万余人，第10绥靖区司令官李玉堂只身逃到徐州，整编第12军军长兼第12师师长霍守义被俘虏，收复并解放了泰安、曲阜、邹县、兖州、济宁等城及大片地区。华东野战军在豫东战役、兖州战役中显示出的进攻威力，特别是城市攻坚的能力，大大动摇了国民党军固守战略据点的信心。

    潍县、兖州战役后，美国驻华联合军事顾问团团长巴大维即当面向蒋介石建议：以单纯防御的办法对付优势解放军，在有限的范围内坚守城市，是徒劳无功的。虽然济南与徐州间的联络此时被在兖州和泰安的华东解放军所切断，但华东解放军主力仍在豫东平原，国军应抓紧华东解放军内外线主力尚未“二者挥一而行”之际，从徐州向北、济南向南进行攻势，通过南北对进，两面攻击，即能够击溃华东解放军