1927年9月19日,毛泽东果断地决定率领秋收起义余部向井冈山进军。29日在永新县三湾村进行改编,这时部队已经不足千人,由于基层没有建立共产党的组织,党还没能切实掌握部队,部队军阀习气严重,严重影响着官兵关系,还有人迷恋城市生活,对前途缺乏认识,以至悲观动摇、逃跑现象时有发生。以毛泽东为首的前委经过充分酝酿讨论决定将部队由一个师缩编为一个团,营团设党委,把党的支部建在连上,班设小组;实行民主制度,规定官长不打士兵,官兵待遇平等等,还制定了后来发展为“三大纪律,八项注意”的“三大纪律,六项注意”等革命纪律。
罗荣桓从秋收起义以来便在毛泽东领导下工作,他亲自贯彻执行了毛泽东的许多主张。例如:支部建在连上、实行党代表制、三大纪律六项注意,部队要做群众工作、建立根据地等等。他在谈到三湾改编时指出:三湾改编实际是我军的新生,正是从这时开始,确立了党对军队的领导。当时,如果不是毛泽东同志英明地解决了这个根本性的问题,那么这支部队不会有政治灵魂,不会有明确的行动纲领,旧军队的习气,农民的自由散漫作风,都不可能得到改造,其结果即使不被强大的敌人消灭也只能变为流寇。当然,三湾改编也只是开始奠定了新型革命军队的基础,政治上、思想上的彻底改造是一个长期斗争的过程。”[3](P157)
1927年10月3日,秋收起义部队在宁冈古城召开前委扩大会议,进一步总结了秋收起义的经验教训,决定在罗霄山脉中段开展游击战争,建立工革命根据地和对井冈山地区农民武装袁文才和王佐采取团结改造方针的问题。[4](P308)为今后改造旧军队摸索了经验。1928年4月,毛泽东率领的工农革命军与朱德、陈毅率领的湘南起义部队在井冈山胜利会师,合编为工农革命军第四军,5月改编为中国工农红军第四军,简称红四军,朱德任军长,毛泽东任党代表,陈毅任政治部主任。11月,红四军前敌委员会成立,毛泽东任书记。随后,红四军在朱德、毛泽东、陈毅等领导下,打破了敌人对井冈山革命根据地的多次围攻,并于1929年1月起向赣南、闽西进军,开创了赣南、闽西革命根据地,奠定了后来的中央革命根据地的基础。红军之所以有这样的战斗力,支部建在连上是一个重要原因。这些成绩都是在坚持了三湾改编以来的基本方针基础上取得的。从后来的古田会议决议内容来看,三湾改编以来提出和实行的原则及制度,仅仅是一个开始,完成新型革命军队这一转型还需要一个认识过程。