前返回的第366旅仅先头1个营撤回滕县，主力在城头村附近与日军迂回主力部队遭遇，被迫向临城方向退走。至15日夜，滕县城关地区的部队虽然番号很多，但实际战斗部队仅有11个步兵连、1个迫击炮连，共约2000余人；此外还有师、旅部的4个特务连约500人，滕县地方武装约500人。总计约3000余人。由北沙河退入城中的第122师第364旅第727团团长张宣武受命为滕县城防司令，统一指挥城关各战斗部队。他部署由城前退回的第398旅的1个营防守东关，令第727团1个营防守东、北面城墙，令由临城赶来的第41军特务营防守西、南城墙；其余为预备队，控制于东门内。
日军濑谷支队进至滕县附近时将部队区分为两队。其支队主力进攻滕县，第63联队配属一部炮兵及战车，由辛庄、中顶山迂回至滕县以南，切断滕县中国军队的退路，并向临城攻击前进。
16日8时，濑谷支队留一部兵力继续进攻北沙河，主力迂回向滕县发起进攻。先对东关进行了约2小时的炮火准备，然后集中火力将东关外围土围墙轰开一个缺口，在猛烈机枪火力掩护下，以约2个小队的步兵向缺口处冲击。守军以密集的手榴弹火力封锁了缺口，并将敌击退。10时至16时，日军对东关连续发起了5次冲击，均被守军击退。但守军伤亡太多，曾3次从城中调预备队补充。日军经整顿后，于17时许又组织第6次冲击，突击部队改以三梯队实施波浪式冲击，同时还延伸火力向东门及城内实施拦阻射击，以阻止城内部队增援。经激烈肉搏，至黄昏时，日军突击部队第三波冲入东关，兵力约1个小队。当夜，守军再由城内增调1个连组织反冲击，将突入之敌大部歼灭，收复了东关。24时左右，防守深井、池头集的第370旅、第372旅残部及防守北沙河、洪町的第727团2个营先后由西门退入城中。此时滕县城北第45军各部均已在阵地被突破后分向微山湖及峄县等地溃退。
17日6时许，日军在飞机、炮兵火力掩护下再度向东关进攻，仍未有进展。下午将主攻方向改在南城，先以15厘米榴弹炮集中火力轰击城墙，致城墙上的守军大部牺牲。激战至15时30分，日军由坍塌处突上城墙，迅速向东、西城墙扩张战果。守军残部由西门退至西关车站。不久，东关及西城门楼均为日军占领，仅余城内、北门及东北城角的守军仍在继续抗击，王铭章在城中十字路口附近指挥巷战。但在日军强大火力制压下，守军逐渐失去指挥。王铭章企图至西关车站组织该地残部继续防守，在转移途中中弹牺牲。城中守军残部仍人自为战，逐屋抗击。18日中午，日军完全占领滕县城。
当14日日军开始进攻时，第五战区司令长官李宗仁即致电蒋介石，请派军事委员会直接控制于豫东的汤恩伯第20军团第85军的第4师增援津浦路。经同意后即电告汤恩伯：“敌于津浦北正面增加兵力，大举反攻，以牵制我鲁南之作战，邓部(指第22集团军)兵少械劣，正面薄弱，两翼空虚，恐难拒敌，已电呈委座调贵军团85军驻商丘之一整师(指第4师)，由火车输送至滕县附近，作第22集团军之总预备队。”汤恩伯一方面向蒋介石去电：“恳明定本军归辖系统，以明职责”；一方面电复李宗仁：“恳将本军团全部调津浦北段出击，避免分割零碎使用，以益战局而杜分散，或作无代价之消耗。”实际上不肯令所部转隶别人指挥。当夜21时，汤恩伯接蒋介石来电，令其“85军即晚准备由商丘乘车经徐州向临城输送，务于17日拂晓前到达临城集结完毕”的命令，蒋同意第52军也随后东调，虽然隶属于第五战区，但全军团仍待汤“到徐州指挥”。汤这才复电李宗仁，应允令第4师出发。15日11时，李宗仁又电告汤恩伯：“铁道正面敌已突破界河阵地，进入二