3月24日，张自忠指挥第59军主力从临沂的西北方向对日军的侧背发起攻击，一部分兵力前往临沂城，增援庞炳勋坚守临沂，确保临沂不失。
第59军向日军发起攻击之初，进展顺利。但是，日军很快进行反击。日军第21旅团再次遭到张自忠部的侧击，已经不像第一次那样慌乱了。这一次，日军对作战部署稍作调整以后，就凭借优良的武器装备向第59军进行反扑。激烈的战斗持续了数日，日军遭到重大伤亡。茶叶山战斗中，张自忠为了争取主动，把师预备队调到山南，攻击日军的侧后。当日军增加兵力争夺茶叶山时，张自忠命令总预备队投入战斗，日军反攻受挫。
3月29日下午，张自忠下达了全军总攻击的命令。59军势如猛虎，日军节节败退，但退至沙岭子时，却凭借已有工事和优势火力顽强抵抗。中国军队几次冲锋，都难以突破日军阵地，部队遭受重大伤亡。
张自忠的心揪紧了。临沂战斗，这是“卢沟桥事变”以来将军重返前线指挥的第一仗。现在，战斗已经到了千钧一发的关头，士兵们在流血，阵地前到处是尸体。张自忠站在前沿阵地上，耳边不时传来一阵阵炮声，那是台儿庄战役的炮声，那是徐州会战的炮声。听到这炮声，将军的热血沸腾了……