1940年9月中旬，在宝安县上下坪村召开东江两支人民抗日武装干部会议。会议传达了中央“五·八”指示，认真总结了东移海陆丰的教训，确定在东江敌后独立自主地开展抗日游击战争，建立以大岭山和阳台山为中心的敌后抗日根据地的战略决策。会议决定对部队进行整编，改番号为广东人民抗日游击队，下设第三大队和第五大队，第三大队队长曾生、第五大队大队长王作尧，尹林平兼任两个大队的政治委员。第三大队挺进东莞大岭山地区，第五大队留在宝安阳台山地区和广九铁路两侧活动。领导中心设在东莞。

10月初，曾生率领第三大队挺进东莞大岭山区，恢复敌后游击战争，开创大岭山区抗日根据地，驻地在大公岭洪裕邝公祠。在大岭山建立抗日根据地，是由于这里的战略位置比较重要，直接威胁着日军在东莞县境的公路交通线和占领区，且这里有坚强的中共党组织和良好的群众基础。当部队回到大岭山时，中共大岭山区委即发动群众支援部队。广大群众热情地欢迎自己的子弟兵，他们腾出房子，拿出粮食支援部队，使部队很快安定下来。当时，第三大队只有70多人，武器装备又差，面对的却是强大的敌人。日军长濑大队和伪军共3000余人，分别驻在大岭山周围的莞城、石龙、厚街、太平、霄边等城镇，控制了莞太、宝太两条交通线。在不远的水乡还有刘发如、李潮两股伪军，共约2000多人。此外，国民党保安第八团和国民党东江游击指挥所的徐东来支队分别盘踞在横沥、樟木头、塘厦等地，控制着广九铁路的中段，并深入到大岭山区金桔岭等地，日伪顽军形成了对大岭山区包围的态势。

第三大队根据敌强我弱，并受日伪顽军包围的形势，遵照中共中央的指示和上下坪会议确定的方针，坚决放手发动群众，武装群众，努力扩大部队，建立一支包括主力部队和地方武装的人民抗日武装，迅速打开东莞大岭山区抗日游击战争的局面。不到半个月的时间，第三大队就发展到近200人，组建了两个中队和一个短枪队，从而建立了一支具有完成连级战术任务的作战队伍。在作战方面，坚决实行游击战，以保存和发展我军的力量。接着，第三大队又着手加强部队建设，建立的发展抗日自卫队。队伍不断壮大，战斗力不断增强。

大岭山抗日根据地，是中共中央确认的全国19个抗日根据地之一的东江抗日根据地的重要组成部分，在东江敌后抗战中有着重要的历史地位和作用，为华南抗日战争的胜利作出了不可磨灭的贡献。