初期无统一编制，一般以乡或村为单位编成一队，也有的以县为单位组织一队或数队。队员男女均有，以16岁至60岁男性为主。1931年春，苏区中央局和中央军委统一规定了赤卫队编制；每村编成数班或数排，每乡编一连数连，每区编一团，每县编一师。排连营团平时不设指挥机关，分别附设于村、乡、区苏政府军事部。1932年10月中央执行委员会重新规定：赤卫军每县成立一军，每3区成立一师，每区一团，每乡一营。隶属于各军区指挥，由各县苏军事部长兼任军长，县委书记兼任政委，赤卫军武器多系梭标、大刀等，工余或农闲时进行一般性军事训练。主要担负支前作战、地方警戒、为红军部队输送兵员等任务。