Post fendiĝo de la kunlaboro inter la Kuomintango kaj la Komunista Partio de Ĉinio, en aŭgusto de 1927 en urĝa konferenco de la Centra Komitato de KPĈ, li elmetis penson per revolucia armado kapti la politikan potencon kaj estis elektita kiel kandidato de la Politika Buroo de la Centra Komitato de la Partio. Post la konferenco, en Hunan-Jiangxi-a limregiono li gvidis la Aŭtunrikoltan Ribelon (armita ribelo gvidata de Mao Zedong, kiu signis la sendependan konstruon de revolucia armeo de KPĈ). Poste li gvidis la armitan ribelon al Jinggang monto kaj komencis revolucion de tero. Li fondis la unuan kamparanan revolucian bazon. En aprilo de 1928 li renkontiĝis kun la ribela armeo gvidita de Zhu De kaj fondiĝis la kvara trupo de laborista kaj kamparana revolucia armeo (baldaŭ renomiĝis la Ruĝa Armeo). La Komunista Partio de Ĉinio kun Mao Zedong kiel ĉefa reprezentanto disvolvis armitan batalon en kamparo, en kie la potenco de Kuomintango estas pli malforta, kaj kreis la vojon, kiu komenciĝas de kamparo kaj finiĝas en urbaro, en kiu fine oni akiru la politikan potencon de la tuta lando. 

En aŭgusto de 1930 la unua flanka armeo de la Ruĝa Armeo fondiĝis kaj Mao Zedong estis ĝenerala politika komisiito. En la 7a de novembro de 1931 portempa registaro de Ĉina Soveta Respubliko fondiĝis en Ruijin, Jiangxi-provinco kaj li estis elektita kiel prezidanto. En januaro de 1933 li estis elektita kiel membro de la Politika Buroo de la Centra Komitato de KPĈ. De la fino en 1930 li kaj Zhu De gvidis la unuan flankan armeon de la Ruĝa Armeo venkis multfojan sieĝon kaj ekstermon de la armeo de Kuomintango. Post eniro de gvida grupo kun Wang Ming kiel ĉefo de maldekstra deviaciismo en la centran revolucian bazon, Mao Zedong estis forpuŝita el la direktanta kerno de la partio kaj la Ruĝa Armeo, tio kaŭzis malsukceson de la kvina agado de la unua flanka armeo de la Ruĝa Armeo kontraŭ sieĝo kaj ekstermo.