ヨシフは共産主義運動の奮闘と救済を願って、ボリシェヴィキとメンシェヴィキの調停のために努力した。発刊したプラウダの社説で両者の和解を主張し、密かにメンシェヴィキの指導者と何度も会った。これに激怒したレーニンは方策について議論するため、ヨシフを2度クラクフへ呼び出した。1912年の年末の2度目の訪問の際に、ヨシフはプラウダの編集者の職を解任されたが、ボリシェヴィキ党のロシア・ビューローの指導者となった。レーニンはヨシフに、少数派であるボリシェヴィキの立場について明らかにする論文を書くよう頼んだ。その後、ヨシフはレーニン、裕福なボリシェヴィキの夫婦とともに数週間過ごした。ヨシフはこの間に、将来のソ連政府の有力な政治家となるニコライ・ブハーリンと初めて出会う。彼らは国籍の問題について議論した。

1913年3月、ヨシフは『マルクス主義と民族問題』という表題の論文を完成させた。この論文は「K.スターリン」という筆名で発表された<ref>この「スターリン」という筆名をヨシフが使ったのはこのときが最初である。</ref>。これより、ヨシフは「鋼鉄の人」を意味する筆名「スターリン」を名乗り始めた。