1938年5月，中共丰县县委按照黄口特委扩大会议的精神，在积极建立抗日民族统一战线的同时，不失时机地抓住人民抗日武装的筹建。

二区以李贞乾、李坤若兄弟为主，组织李新庄农民训练班中的青年骨干60余人，成立了丰县抗日游击队。二区活动积极的还有史为功、吴秀民等人，发动群众，筹集了一部分枪支。

三区以王子丰(王隆太)、王运堂、王运畅为主，以王大庄为中心，把王姓的一部分持抢的农民集中起来进行训练。王文彬、王襄九、孙兆立等人，以王寨为中心，把王姓、张姓持枪的农民组织起来进行训练。以渠伯奎、渠仲新、仇善存等人为主，以渠寨为中心，也筹集了一部分枪支。

四区马乐山、张西华、袁敬文等人以张后屯、张集为中心组织了一部分武装。

六区张广茂、季凤舞等人组织了一部分武装，以季庄为中心开展活动。

七区以阎树棠、康文惠为主拉起一部分武装，赵万庆、尹学渊、康文彬等在华山尹小楼组建了一支抗日武装。

丰西、砀北、单东南地区成立“丰单砀三县大队”，由陈伯英、朱奎升等负责。

这些和人民群众血肉相连的抗日武装，从诞生那一天起，就得到人民群众的支持和拥护。为了支援抗日武装的活动，李贞乾全家26口人全力以赴，参加抗日救亡运动，把土地、房屋、粮食、枪支、马匹等都献给了抗日游击队。王庄村(今属欢口镇)爱国士绅王茂玲把自己看家护院的6支长短枪和粮食献给欢口区区中队。黄庄村(今属顺河镇)抗日武装家属黄张氏(其子黄汝贤任游击队指导员)，为了帮助刚组建的游击队解决枪支弹药等问题，毅然卖掉110亩土地，将卖地款全部送给抗日队伍。由于人民群众的支持，至1938年5月，丰县人民抗日武装发展到150支枪，近200人。

当党组织在丰县各地纷纷组建抗日武装的同时，国民党丰县县政府也于1938年5月组建了“丰县抗日义勇壮丁常备队”(简称“丰常”)，由国民党军、宪、警留守人员组成，如韩野农、王德举等都是丰县军警的军官；丰县著名土匪卜昭贵的队伍，也被收编为“丰常”第八大队；地方地主武装主要由其本家、亲戚和雇工等三种成分构成，后来吸收农民和青年学生，逐步扩大，到1938年5月也发展到近2000人。