日本宣布投降后，枣庄地区的日军分别驻在枣庄、临城、滕县、陶庄小窑以及津浦铁路沿线官桥、沙沟、韩庄车站据点上，因铁路被抗日军民扒掉，其据点成为一个个孤立点。这些日军虽然知道大势已去，却既不向国民党军队投降，也拒绝向八路军缴械。由于蒋介石命令日军不要向共产党八路军和新四军投降，抗战后的政治、军事形势日趋复杂。鉴于这种情况，鲁南军区根据朱德总司令的命令，按照中共中央山东分局、山东军区的指示，争取先机，趁国民党军队还没有到达枣庄之际，开展强大的政治攻势和军事攻势，强令日军无条件缴械投降，拒绝投降者就坚决消灭。

1945年11月中旬，盘踞在临城的两个大队1000余名日军拒绝向国民党第十九集团军陈大庆部缴械，准备南逃徐州。临城的日军及其家属乘一辆铁甲列车于夜间开出，转移到沙沟附近时，看到前面的铁路已被鲁南铁道大队破坏，又试图退回临城。这时铁道大队把事先埋在铁轨底下的炸药拉响，日军的退路被截断。日军铁甲车在欲进不能、欲退无路的情况下，只好停滞于此。铁道大队马上将铁甲车包围起来，大队长刘金山写了一封命令日军向铁道大队缴械投降的信，叫通讯员送给铁甲车上的日军。日军头目回信说，交枪可以，但必须交给大太君，不能交给铁道大队。这时他们已在铁甲车周围挖了工事，作好了抵抗准备。铁道大队将这一情况向鲁南军区汇报后，司令员张光中命令刘金山、郑惕分别到沙沟和姬庄，向日军铁甲车大队和日铁联队发出警告：日军除了缴械投降，没有其他出路。刘金山向铁甲车大队长太田义正词严地申明了八路军立场后，日军答应请示上级后再答复。下午，日军派人送信说，可以按铁道大队提出的条件缴械投降。

1945年12月初的一天下午，太田带着全体日本官兵及家属，在距沙沟车站不远的一片开阔地里集合，以分队为单位向铁道大队交出了带来的武器弹药。这次日军交出的武器弹药，铁道大队用了20来辆牛车才运到鲁南军区。第二天，铁道大队在检查中发现仍有不少武器被他们拆成零件装进箱子藏了起来。经过严正交涉，又收缴了500多支步枪、手枪及大宗弹药。日军缴械投降后，拿着铁道大队开的路条，惶惶如丧家之犬，向徐州逃去。