中華民国時期には、中国国民党と、時に協力し（1924年の第一次国共合作）、時に敵対し（1927年の蒋介石による4・12クーデター（上海クーデター）により国共分裂）、軍閥および日本との戦いを続けた。

当初は、コミンテルンの指導が強く、また、ソビエト連邦への留学生が「中国共産党」の中心勢力であった。 そして広大な農村社会を抱える中国の特殊性を理解せずに大都市の労働者による武装蜂起を革命の基本路線と考えたコミンテルンの指導に忠実に従ったために、第一次国共合作に固執しすぎ、また、国共分裂後は、極左冒険主義に走りすぎるなどの路線の失敗を犯した。 一方で並行して、中国国民党からの熾烈な白色テロの標的ともなったため、中国国民党と比較しても、十分な抵抗勢力とはなりえなかった。

このような中で毛沢東は一農村に拠点を置きて活動していた。そうした農民を対象とした社会主義化の動きはそれまでのマルクス主義のような社会主義思想のように労働者階級を対象としたものではなかった事が今までのマルクス主義とは異なった点である。都市部は国民党に押さえられて、共産党の活動拠点は山奥の華中や華南の農山村地域であり、1931年には江西省瑞金で「中華ソビエト共和国臨時政府」を樹立した。