1945年11月，山东军区第1、第2师开进东北。1946年8月第1、第2师及东满军区第7纵队(前身为1942年8月起义的东北军111师，后编为山东军区滨海支队)合编为东北民主联军第1纵队，万毅任司令员，下辖第1、第2和第3师。1948年11月第1纵队改编为中国人民解放军第38军，军长李天佑，政委梁必业，各师分别改为第112、第113和第114师。在解放战争中，该纵队以“三下江南”，“四战四平”成名。1947年5月怀德以南大黑林子战斗中，第3师9团3连3排在排长丁学源率领下与敌展开白刃战，战后3排被命名为“丁学源刺杀英雄排”。在辽沈战役中围歼廖耀湘兵团，解放沈阳。平津战役中担任天津主攻，第337团3连将第一面红旗插上天津城，338团8连首先攻占金汤桥，334团6连活捉陈长捷。此后随军南下，参加了宜沙、衡宝、广西、滇南等战役。解放战争中，第38军共歼敌14.3万余名。

1950年10月，第38军首批入朝参加抗美援朝战争。第二次战役中，第113师以14小时行进72。5公里的速度，胜利完成穿插三所里任务，一举扭转战局。随后在三所里、龙源里阻击战中，该师死死卡住美第9军退路，并击退了美骑1师和英29旅向北增援接应，使南北敌军相距仅1公里，可望而不可及。著名作家魏巍以335团3连在松骨峰战斗中的事迹为主，写成战地通讯《谁是最可爱的人》，为志愿军赢得了“最可爱的人”的赞誉。彭德怀司令员在给该军的嘉奖电最后亲笔写下“中国人民志愿军万岁!第三十八军万岁!”从此，“万岁军”名扬四海。在第四次战役中，第38军背靠即将开冻的汉江，依托简易工事，顽强抗击兵力、火力均占绝对优势的“联合国军”的反扑，使敌军每昼夜只能前进不到900米，以巨大代价胜利完成了战役掩护任务，再次受到志愿军司令部的嘉奖。