说说部队的纪律，也是个极为重要的一个问题。马司令经常对战士们说∶“咱们是八路军的部队，不仅讲军事纪律，要服从命令听指挥，还要讲群众纪律，这是和老百姓打成一片的保证。这一点也是和其他军队不同的根本之点。”他还把三大纪律八项注意记写在自己的笔记本上，把它背熟了，记在心里。什么时候都不能忘记。并要求战士们也写下来。
有一次由长白山去淄川的行军中，骄阳似火，战士们口渴难忍，正好路过一片西瓜地。那个个硕大的西瓜，实在诱人垂涎，只要顺手取来，就可入口解渴。可是我们是八路军领导的队伍，纪律严明，爱护群众的一针一线，绝不可破坏群众纪律。
大家路过西瓜地，强忍着口中的干渴，走了过去。但是，就在这时，事有凑巧，走在队伍后面的一个小战士，这时非得要小便。就跑到了这片西瓜地，准备方便一下。种瓜的老百姓看到了，一看是穿着灰色衣服的八路军，还以为是小战士要去摘西瓜。种瓜的农民想:这个小战士怎么知道哪一个西瓜熟不熟，我得摘一个甜的给他送过去。大老远摘了一个西瓜抱在怀里就跑过来。小战士莫名其妙，小战士对农民伯伯说:“我是在这里解手的，尿了个尿，不是来偷摘西瓜的，就算你送给我，我也不能要你的瓜。”但那农民伯伯一定要给，说:“西瓜已经摘下了，既然摘了就放不回去了。你就拿给八路军同志们吃吧。你若不拿，就浪费了我一片苦心啊！双方推让不下，小战士只好抱着个瓜赶上部队。
回去以后这一下，部队里像炸了窝一般，七嘴八舌说那小战士摘群众的瓜。小战士心里委屈，急得哭了起来。真是有嘴难变啊！就这时马司令过来问明了情况，对这广大战士们说∶“要相信我们自己的同志，他本来是去解手的，不是去摘瓜。既然群众要给，又推让不下，拿了来就收下好了。”他指示司务长∶"记着，我们回长白山再路过这片瓜地时，一定照价还钱，不能欠了农民的。"司务长回答道:“是，一定照办。”
与此同时，杨副司令带着东去临淄的部队路过卫固镇一带，在卫固镇召开了人民群众大会，宣传抗日活动，发动群众抗日。当地的老百姓听说马司令和杨副司令的队伍来了，都积极参加大会，出来欢迎。杨副司令在会上讲话，号召“有人的就出人，有钱的就出钱，有枪的就出枪，有粮的就出粮，有力的就出力，一切都是为了抗战”。开完会以后，有的群众来告状，说个别战士严重违反了群众纪律。他经过调查，严肃处理了这事。杨副司令想，三支队初建，成分复杂，出现个别违反纪律也是难免的。但是加强部队的纪律教育，这刻不容缓。
马司令和杨副司令同其他同志商量，利用对这次违纪事件的处理，教育战士们切记，八路军的队伍同旧军队的根本不同，就是人民子弟兵，就是为人民服务的，绝不是来欺压百姓，祸害百姓的。必须爱护群众，处处维护群众利益，严守部队的纪律，才能得到人民的信任和支持，才能战胜日本帝国主义。
到了第二天，杨副司令集合队伍，向大家讲话。他从参加红军，然后再讲到长征，从延安讲到抗日，说明红军的成长，每一步都离不开群众的支持。他说∶“我们队伍同国民党军队、顽固派军队的根本区别就在于扎根于群众之中。
试想一下，那些欺压抢劫伤害人民群众的旧军队，群众见了就跑就藏，军民关系能够好吗?我告诉你们，是好不了的。而我们就不一样了，我们和群众就像鱼离不开水一样才行。”杨副司令回想起昨天，以昨天发生的违纪事例说∶“如此对待群众，和土匪有什么不同?”他激昂地问∶“同志们，你们是愿意遵守纪律，依靠群众当八路军打鬼子，还是愿意去打骂老百姓当土匪?要依靠群众支持当八路打鬼子，我豁出命来带着大家干，要去欺压老百姓，坑害老