在小鬼子占领苏北两淮县城后，除了鬼子汉奸肆意对苏北人民进行欺压和层层盘剥外，就连那些被小鬼子从东北掳掠过来的妓女也看不起被蹂躏的苏北人。
这些妓女日常对两淮县城的大男人也吆五喝六的，在这些东北女人的眼里，一个男人在自己女人或者家人遭受到侵略和欺辱时而没有去拼死反抗，那么这个男人就是孬种，就是懦夫，他就根本称不上是一个真正有血性的男人！
在这些被蹂躏的东北女人看来，淮阴城带把子的壮汉站出来齐刷刷的一大片，但是在小鬼子攻打淮阴城的时候，竟然没有一个人起来挑头带领他们与小鬼子干，整座城池几乎没有进行任何有效的抵抗，就让小鬼子大摇大摆地侵占了整个城防坚固的淮阴城。
然而事实并非如此，哪里有欺辱，哪里有压迫，哪里就有反抗。面对淮阴城里鬼子汉奸的这些种种罪行，但凡有一点骨气的中国人又岂肯甘受如此屈辱和压迫？生长在大汉名将韩信故里的两淮热血男儿受得了胯下之辱，当然也从来不泛有自强和反抗的精神。
前期日军进城，老百姓本来都认为韩德勤不会轻易放弃这江苏省的临时省会，放弃这新建立的苏北抗战的中心城市，会为之与日军决一死战，哪知日军还没有进攻淮阴城，韩德勤就带着自己的军队跑了，这让全城老百姓都措不及防。
在韩德勤的军队撤走了后，两淮各地被压迫的老百姓逐渐抛弃了对韩德勤军队的幻想，于是纷纷不甘受辱，自发组织起来，拿起棍棒刀叉和一些其他简易的武器，同日伪统治者进行奋死抗争。
在淮阴伪政权已经建立和波及的地方，地主、富农以及平民百姓纷纷抱团取暖，积攒护卫实力，以求壮大自己实力后，能够联合自保。
在两淮日伪政权还没有波及到的西顺河、黄集等南三河两岸和沿湖地区，因为地处南三河和洪泽湖边，离两淮县城较远，而且这些地方本身又有一定抵抗实力，淮河岸边还有部分韩德勤的地方常备旅和游击队驻扎，因此这里的老百姓积极支持地方势力反抗日伪政权的侵入。
西顺河集的杜家堡和黄集区的康家庄，是当时抵抗日伪政权南扩实力最强的地方，这时候不断有从南北两面逃过来的老百姓来到他们那里，请求给予保护，有的甚至把全家都搬到他们附近请求借住，因此这两个地方渐渐发展成为两淮南部抗拒日伪政权拓展的强大据点。
1939年6月，为了联合自保，在黄集区乡民和南三河一带遗留小刀会头头们的再三请求下，康家庄在南三河北岸率先重新树起了民间自卫组织——小刀会的大旗，开设了小刀会大堂口。
南三河北岸小刀会之所以选择在黄集区康家庄树起小刀会大旗，主要是因为康家庄全庄老少世代习武，尤其是康赢战、康百万父子两人都有一身好武艺，他们对枪和大刀棍棒样样精通，一把大砍刀父子俩都使得出神入化。老庄主康赢战在闹义和团时，就惯使一口左手刀，也曾经在南三河一带叱咤风云，收了不少小刀会门徒，让这一带略微会点刀枪棍棒功夫的大小人物无不心服口服。
现在康赢战虽然老了，但是他的长子康百万不仅自幼得到他的家传，而且在杜家堡里还得到过高人指点，现在康百万的身手与他父亲相比，有过之而无不及。
不仅如此，这一带人还知道康家庄还有一个与之唇齿相依的杜家堡。这杜家堡依湖而建，西面和南面紧靠洪泽湖，东面隔过洪泽湖大堤就是深不见底的十三浦大塘，杜家堡号称铜墙铁壁，进可攻，退可守。
杜家堡现在由康赢战妹妹和妹夫杜建淮管理，堡内建筑都是由杜建淮的独子杜恒有一手规划和安排兴建的。这杜恒有既是康百万的表弟，也是康百万的师弟，他的武功与康百万是同一师傅所教，表兄弟两人也都一般厉害。
有鉴于此，作为以前黄集区小刀会曾经的大头领，康赢战拗不过众人的再三央求和劝告，他才在康家庄重新点起了小刀会的香火，他本人也被南三河一带遗留的小刀会众会首和徒子徒孙们一致推举为小刀会的大师傅，重新做了这一片小刀会的大头领。
其实，说起苏北两淮地区的小刀会，它的起源地本来就在淮安县黄集区。
两淮的小刀会最初叫做“神拳会”，因为“神拳会”会员大多数以三尺长的朴刀为武器，所以后来也就统称为“小刀会”。
两淮地区的小刀会成立于二十世纪20年代初，据说当时北洋军阀孙传芳所属的马玉仁部驻防在淮安县西南乡（现在范集、黄集、岔河等地）一带，马玉仁及其部下到处搜刮粮草，抢劫财物，奸淫妇女，这些恶劣行径引起了天怒人怨，愤怒的当地农民于是自发组织起了“神拳会”，集结了两千多人后，发动了武装起义。
起义队伍在“神拳会”大头领的带领下去攻打马玉仁部，他们在进攻到了黄集区附近时，遭到了马玉仁调集的重兵的包围，“神拳会”在遭受了很大的伤亡后，起义失败。
虽然小刀会的这次起义失败了，但是因为淮安“神拳会”组织的这次反抗，使两淮地区“神拳会”的星火被点燃了。随后，两淮小刀会反抗马玉仁暴政的起义接连不断，随着南三河一带小刀会在得到康家庄的有力支持后不断发展壮大，马玉仁在两淮再也经受不住小刀会的反复骚扰和多次暗杀，为了活命，这家伙最后带着自己的人马趁着黑夜从淮安地盘上悄悄逃走了。
马玉仁部逃走了后，两淮小刀会发展的势头更猛，几乎各区各乡的村庄都建立了大大小小的小刀会堂口。
到了1927年春天，黄集区的民团团总任培钦，在黄集区称霸一方，他经常利用自身的权势，欺男霸女，强买强卖，霸占别人的房产田地，黄集区的民众对这个人恨之入骨。
有一次，黄集区曹圩乡的小刀会头目吴德功在遭受到任培钦的欺负后，他联络了黄集街上的小刀会头目戴金荣，并且与附近范集、陆集、林集等地的小刀会堂口组织了串联，在这年春节期间几处小刀会头目聚集在一起，统一推举吴德功为统领，筹划组织针对黄集区民团团总任培钦的暴动。
这年春节过后，这几处小刀会堂口的会众，按照头领们事先约定的时间，在黄集街上聚集后，由吴德功统一指挥，手执刀枪棍棒开始围攻任培钦在黄集街上的民团总部。
任培钦的民团只有几十号人，哪里抵挡得住这成百上千个小刀会会众的进攻，他急忙用电话向淮安县政府紧急求援，淮安县民国政府在接到了任培钦的告急电话后，也不查问是何原因引起的暴动，就立刻派出淮安县政府常备队的骑兵大队赶到黄集街来援救，对小刀会的这次暴动进行了残酷的镇压。
黄集区这次小刀会起义在失利撤退后，参与暴动的几处小刀会主要领导人都被淮安县民国政府逮捕，投进了淮安县衙的监狱里。
自从出了小刀会“吴德功暴动事件”后，两淮民国政府对两淮小刀会一直采取高压统治的政策，两淮小刀会在遭受到沉重打击后，所有正常活动都被迫全部停止了。
到了1939年3月日寇侵占两淮后，两淮人民面对日寇的侵略和汉奸特务的猖狂掳掠深感惶恐，老百姓为了保护自身利益，重新成立小刀会的心愿再一次被激发了出来。各地的地主富农和一些家底较为殷实的农民也担心自家被鬼子汉奸绑票敲诈，这时候他们也多数自愿捐款捐物，对重新成立小刀会也多持赞同态度，他们也跟着乡民们加以鼓动。
在苏北抗战爆发后，中日之间的民族矛盾成为社会的主要矛盾，韩德勤代表的民国政权这时候既无心也无力顾及两淮地方小刀会的行动，于是小刀会这个民间自卫组织便在黄集区这个两淮小刀会的发源地，再一次蓬勃发展起来了。
