妻と娘のイルディーダをメキシコに残し、単身キューバへ向かう。などを含む12人のみだった。(生き残った人数が17人という説もある。）

上陸後、反乱軍はシエラ・マエストラ山脈に潜伏し、山中の村などを転々としながら軍の立て直しを図った。その後キューバ国内の反政府勢力との合流に成功し、反乱軍は徐々に増強されていった。当初、ゲバラの部隊での役割は軍医であったが、革命軍の政治放送をするラジオ局を設立するなど、政府軍との戦闘の中でその忍耐強さと誠実さ、状況を分析する冷静な判断力、人の気持ちをつかむ才を遺憾なく発揮し、次第に反乱軍のリーダーのひとりとして認められるようになっていった。上陸から1年後の兵員増加に伴う部隊の再編成に際して、カミーロやラウルらを差し置き、カストロから第2軍のコマンダンテ（司令官。司令官の下に分隊と分隊を指揮する「隊長」がいる）に任命され、指揮権と少佐の階級を与えられ、名実ともにカストロに次ぐ反乱軍ナンバー2となった。

1958年12月29日にはこの第2軍を率いてキューバ第2の都市サンタ・クララに突入する。多数の市民の加勢もあり、これを制圧し、首都ハバナへの道筋を開いた。1959年1月1日午前2時10分、フルヘンシオ・バティスタがドミニカ共和国へ亡命し、1月8日カストロがハバナに入城、「キューバ革命」が達成された。闘争中の功績と献身的な働きによりキューバの市民権を与えられ、キューバ新政府の閣僚となるに至った。