1924年1月21日、レーニンは死去した。スターリンは、レーニンの葬儀を開く名誉を与えられた。レーニンの望みにより、葬儀は豪奢なものとなり、遺体は防腐処置を施されて展示されているかのような処理をされた。カーメネフとジノヴィエフの活動の結果、中央政治局はレーニンの遺書を公表すべきではないことを決定した。同年5月の党大会にて、レーニンの遺書は地方代表団の長にだけ読み聞かせられた。トロツキーは、スターリンの解任を要求する好機を掴むことができなかった<ref name="StalinRobertService" />。

レーニンの死後の5月22日の第13回党大会にて、クルプスカヤの希望によりレーニンの遺書が朗読される予定であった。彼女は大会が開催される前にその遺書のコピーを共産党政治局員全員に送っていた。遺書の内容は「スターリンはあまりに粗暴過ぎる。この欠点は、われわれ共産主義者の仲間うちやその交際の中では我慢できるが、書記長の職務に会っては我慢ならないものとなる」「背信的なスターリンを指導者にしてはならない」というものであった。レーニンはスターリンを書記長の地位から外し、「より忍耐強く、より丁重で、より思いやりがあり、あまり気まぐれではない人物」を、そのポストに任命するよう提案していた<ref>亀山郁夫『大審問官スターリン』（小学館）24ページ。</ref>。レーニンはスターリンの性格を見抜いており、スターリン個人への権力集中にレーニンは警鐘を発し、スターリンを書記長の座から解任するよう遺書の中で要求したのである。しかし、レーニンの要求は、スターリンが自制することを条件に中央委員会のメンバーによって伏せられてしまった。

レーニンの死の数か月後、スターリンはカーメネフ、ジノヴィエフと議論した。スターリンは第13回党大会で共産党政治局に昇進したニコライ・ブハーリンと同盟を結んだ。1925年12月の14回党大会にて、スターリンはトロツキーの援助を要求することを公開したカーメネフとジノヴィエフを公然と非難した。スターリンは、革命を広げることよりもボリシェヴィキがすでに支配した国での共産主義の構築に集中すべきだと主張し始めた。これは党内の多くの同志たちや、スターリンのイデオロギーに反対していたトロツキー、カーメネフ、そして反スターリン同盟を結んでいたジノヴィエフをも引き込んだ。

スターリンは自身の政敵の評判を徐々に下げていった。トロツキーは革命前からボリシェヴィキにはいなかったことや、カーメネフとジノヴィエフが革命に反対票を投じていたことを指摘した。トロツキー、カーメネフ、そしてジノヴィエフは党内でますます孤立を深め、1927年11月には共産党中央委員会から追放された。11月14日、トロツキーとジノヴィエフは党からも追放され、続いて12月にはカーメネフも追放されるに至った<ref name="StalinRobertService" />。カーメネフとジノヴィエフは謝罪の公開書簡を書き、約6か月後に復党となったが、トロツキーはソ連からも追放された。

スターリンは、より迅速な工業化と、レーニンによる新経済政策（ネップ）を嫌った多くの党員に共感を呼んだ経済の集中管理の促進を始めた。1927年末の穀物供給の危機的な不足は、スターリンに農業集団化の推進を促進させた。1928年1月、スターリンは、富農の農民が秘蔵していた穀物の没収を監督したシベリアへ、個人的に旅に出掛けた。党員の多くは没収を支持したが、ブハーリンと首相のアレクセイ・ルイコフは憤慨した<ref name="RedTsar" /><ref name="StalinRobertService" />。ブハーリンは、富農の財産の融資による迅速な工業化というスターリンの計画を批判し、ネップへの復帰を提唱した。スターリンはブハーリンを派閥主義的で資本主義的傾向であるとして非難し、その他の中央政治局の委員たちはスターリンに味方した。1929年11月、ブハーリンは政治局から追放された。

スターリンは、「貧民階級の味方」という聴衆への訴えによって人気を得た。スターリンは従来のボリシェヴィキの理論である「世界革命」路線を放棄して、一国で共産主義を構築する「一国社会主義」政策を提唱した。ロシア人は世界大戦と内戦で疲れており、「一国社会主義構築への専念」は、戦争に対する楽観的な解毒役となった。自身の反対勢力ができあがるため、スターリンは党内の一派が党の指導者の方針に公然と反対することができない派閥主義の禁止を大きく利用した。1928年（五カ年計画の最初の年）まで、スターリンの指導者の地位は最上位にあった。この翌年、世界革命・永続革命を提唱していたトロツキーはスターリンに反対していたために追放された。ブハーリンによる党内右派のような反対勢力の裏をかき、コルホーズと工業化を主張・推進したスターリンは、党と国の両方を統制した。しかしながら、セルゲイ・キーロフのようなほかの指導者の人気が示したように、彼は1936年から1938年のあいだに行った「大粛清」まで、絶対的な権力を掌握することはできなかった。