1878年12月18日、ロシア帝国時代のグルジアのゴリにて、靴屋の父ヴィサリオン（ベソ）・ジュガシヴィリと、農奴の母エカテリーナ（ケケ）・ゲラーゼの第3子として生まれる<ref name="Young Stalin">サイモン・セバーグ・モンテフィオーリ. Young Stalin. 2007. ISBN 9780297850687</ref>。両親はいずれもグルジア生まれであった。2人の兄弟は幼児の段階で死亡している<ref name="Young Stalin" />。

少年期のヨシフは「ソソ」と呼ばれていた。父ヴィサリオンの仕事は繁盛していたが、次第にで打たれた（当時のロシアでは、鞭打ちは子供をしつけるための容認された方法であった）。なお、ヨシフの「本当の」父親に関して、複数の仮説と有名な噂がある<ref></ref>。

一家の財政状況は悪化し、ヨシフが10歳になるまでに9回転居している<ref name="Young Stalin" />。

ヨシフが育った場所は、激しい無法地帯の街であった。小規模の警官隊と、戦争で疲弊したグルジアの過去の歴史から受け継いでいる騒々しい喧嘩や取っ組み合いの勝ち抜き試合を組織しているギャングとの争いを含めた暴力の文化があった<ref name="Young Stalin" />。

ヨシフの家の近所に、ダヴィド・ピスマメドフというユダヤ人が住んでいた。彼はヨシフに金銭と本を与えて勉強を奨励した。その数十年後、ピスマメドフは、ヨシフ少年がどうなったか知るためにクレムリンを訪れた。ヨシフは初老のユダヤ人を歓待し、幸福に歓談することで同僚を驚かせた。

7歳のとき、ヨシフは天然痘に罹患し、病気の症状のために顔がひどく傷付いた。ヨシフはのちに、痘痕があまりはっきりと写らないように修正した写真を撮った。ヨシフの母語はグルジア語であったが、8〜9歳になるまでロシア語を学び始めることはなかった。また、強いグルジア訛りの発音は無くなることはなかった。

10歳になったヨシフは、ゴリの教会学校に入学し、教育を受け始めた。彼のクラスメイトは、そのほとんどが裕福な聖職者、役人、商人の息子であった。ヨシフを含めたほとんどのクラスメイトはグルジア語で話していたが、ロシア皇帝アレクサンドル3世の方針のために学校ではロシア語で話すことを強制させられた。ヨシフは学級内では最上の生徒の1人であり、全面的に最高点を獲得した。聖歌隊の歌い手にもなり、ときおり、結婚式で歌を歌う仕事もした。また、詩も書き始めている<ref name="Young Stalin" />。母エカテリーナは、息子が聖職者になることをソ連の指導者になった後も望んでいた。

学校教育よりも靴職の技術を息子に教えたがっていた父のヴィサリオンは、息子が学校に認められると憤激した。酔っ払って激怒したヴィサリオンは、地元の酒場の窓を割り、地元の警察長官を非難した。ヨシフの母エカテリーナに同情した警察長官はヴィサリオンを逮捕することはなかったが、街から出ていくように言った。ヴィサリオンはゴリに住む家族を残してトビリシに移住し、靴工場での仕事に就いた<ref name="Young Stalin" />。

学校生活を送っていたヨシフは、馬車に轢かれたことがあった。ヨシフの左腕には治ることのない傷ができた。ヨシフはこの傷害で、のちの第一次世界大戦での兵役を免除されている。12歳のとき、ヨシフは再び馬車に轢かれ、さらにひどい怪我を負った。ヨシフは治療のためにトビリシの病院に1か月入院した。回復後、父ヴィサリオンが、自分が働いている靴工場で息子を靴職人見習い工として登録した。母エカテリーナの聖職者や学校の職員への接触による支援で息子は回復した。ヴィサリオンは妻と息子への金銭援助を打ち切り、自活させた。ヨシフは回復後にゴリの教会学校へ戻った<ref name="Young Stalin" />。

1894年に教会学校を首席で卒業したヨシフは奨学金を獲得、16歳のときにカフカース最高の名門校であるグルジア正教会の神学校に入学する。ここの教師もまた、グルジア人の生徒にはロシア語とロシア文化を強いていた<ref name="Young Stalin" />。ほかの多くの生徒たちのように、若いヨシフはグルジア人の愛国心を湧き起こすのには反発していた。神学校での生活のあいだに、地元のいくつかの新聞社からヨシフの書いた詩が出版され、詩人としての評判を得るが、ヨシフの詩への興味は次第に薄れていき、反逆と革命への気持ちが湧き起こり始めた。

神学校でのヨシフは、ほかの多くの生徒たちとともに、に入党する。

最終試験の前に、学校は入学金を突然値上げしている。ヨシフは試験に出席しなかったことを理由に1899年に放校処分となった<ref name="Young Stalin" />。学校を去ってからまもなく、ヨシフはウラジーミル・レーニンの著作集に触れ、革命家になることを決意する。

<gallery> Image:Stalin birth house.JPG.jpg|グルジアのゴリにあるスターリン生誕の家 Image:Vissarion Jughashvili.jpg|スターリンの父親ヴィサリオン・ジュガシヴィリ Image:Ekaterina Dzhugashvili.jpg|スターリンの母親エカテリーナ・ゲラーゼ File:Stalin 1894 Colour.jpg|スターリン（1894年、16歳） </gallery>