分割民営化によって処理すべき債務は、最終の国鉄長期債務25兆0600億円のほか、鉄建公団債務および本州四国連絡橋公団債務の国鉄負担分、北海道・四国・九州の各新会社に対する経営安定化基金原資を合わせた31兆4500億円とされた。さらに民営化にともなう年金負担などの将来費用5兆6600億円を加えた37兆1100億円について、国鉄清算事業団と新幹線鉄道保有機構、新会社6社（JR東日本、JR東海、JR西日本、JR貨物、鉄道通信、鉄道情報システム）が継承した。このうち新会社が5兆9300億円、新幹線鉄道保有機構が5兆6300億円を引き継ぎ、残る6割に相当する25兆5200億円について、国鉄清算事業団が引き継いだ<ref name="kaikei">『平成8年度決算検査報告』会計検査院、1998年3月。</ref>。

国鉄清算事業団継承の長期債務償還には、清算事業団に移管された不要の旧国鉄用地の売却益（見込み額7兆7000億円）、JR株式の売却益など（同1兆1600億円）、新幹線鉄道保有機構からの貸付金収入（同2兆8800億円）を充てる予定だったが、当初から13兆7700億円は財源不足として国民負担とする計画だった。

巨額の債務に対し毎年約1兆円の支払い利息が発生したため、政府は1987年から年間数百億～2000億円程度の利子支払い補助金を拠出したが、バブル景気崩壊後の不況に伴う株式市場の低迷および土地価格の下落で、支払い利息分を超える土地・株式の売却収入を得ることができずに毎年多額の損失を計上。さらに借り換え資金の調達額の増加に伴う新たな利払いも増えたために、1996年度には1日あたり24億円の支払い利息が新たに発生する状況に陥った<ref name="kaikei" />。

このため、元本の処理すらできないまま債務総額は28兆3000億円に膨張して償還スキームは事実上破綻し、国鉄清算事業団は1998年に解散した。

結局、償還不能となった債務のうち、政府保証付債務24兆2000億円は、1989年の閣議決定に基づいて1998年度の国の一般会計に繰り込まれ、郵便貯金特別会計からの特別繰り入れ（2002年度まで）、たばこ特別税収、一般会計国債費などを財源とする国民負担で処理することになった<ref>『日本国有鉄道清算事業団の財務調査結果の概要』総務庁行政監察局、1999年12月27日。</ref>。債務処理が終了するのは60年後の2057年で、2007年3月末現在の政府保証付国鉄長期債務残高は20兆9964億円である<ref name="saimu">『平成19年度日本国有鉄道清算事業団の債務等の処理に関する法律に定める施策の実施の状況に関する報告』国土交通省鉄道局、2009年3月17日。</ref>。

また年金等負担分4兆1000億円については国鉄清算事業団の土地、株式などの資産を継承した日本鉄道建設公団が特例業務として資産売却収入と国庫補助金で負担することになった。のち2003年の鉄建公団独立行政法人化に伴い、現在は独立行政法人鉄道建設・運輸施設整備支援機構が負担を継続している。