日本においては、明治期に政府が開設し運営していた国営の官設鉄道（官鉄）がはじまりである。のち1906年の鉄道国有法による鉄道国有化で、日本鉄道など当時の大手私設鉄道17社を買収して誕生した新しい国営鉄道網について、政府が自ら建設した官鉄と区別し、新たに「国有鉄道」と称した。

国有鉄道は政府官庁である工部省、逓信省、内閣鉄道院、鉄道省、運輸通信省、運輸省によって、1949年まで国の国有鉄道事業特別会計による国営事業として運営していた。同年からは、日本国有鉄道法に基づき、政府出資の公共企業体（公社）である日本国有鉄道が行う国の公共事業として、1987年まで運営された。戦後においては、日本国有鉄道の略称としての「国鉄」の呼称が広く普及した。

一方、1987年の国鉄分割民営化で発足した当時のJR7社、および現在の北海道旅客鉄道（JR北海道）、四国旅客鉄道（JR四国）、九州旅客鉄道（JR九州）、日本貨物鉄道（JR貨物）については、全株式を政府が保有する株式会社（特殊会社）の鉄道事業体であり、国際的には国有鉄道に準じた経営形態であるものの、国鉄とは呼称されていない。