ロシア時代に日露戦争で戦い敗北した日本とは、ソビエト連邦成立後も満州国との国境などで度々軍事的衝突を起こしていた。その後第二次世界大戦中の1941年4月に日ソ中立条約が締結されたものの、ヤルタ会議において連合国間で結ばれた密約を元に、1945年8月にこれを一方的に破り日本に対して参戦し、その上日本が降伏した後も侵略を続け北方領土などの多くの日本の固有の領土を違法に占拠した。その上多くの日本人捕虜を戦後長い間拘留し強制労働に処し、その多くを死に追いやった。この件に関してはロシア政府は近年ようやくシベリア強制労働の被害者・遺族に対して謝罪と賠償を始めつつある。

その後、1956年に日ソ共同宣言を出して国交を回復したものの、日本がアメリカの同盟国であることや北方領土問題が解決されなかったために関係改善は進展しないまま推移。冷戦終結、ソ連崩壊を経た現在でも日本と事実上の後継国家となったロシアの間には正式な平和条約の締結が成されていない。

なお、冷戦の最中には日本社会党などの左翼政党や、ベトナム戦争に反対するべ平連などの左翼的な反戦・市民運動組織に対し、資金援助や情報の提供、武器の供与など有形無形の指示・援助を行い保守勢力に揺さぶりをかけたことが判明している。また、ソ連国家保安委員会（KGB）などが中心となり大使館員などに偽装した多くのスパイを政府内部や自衛隊などに送り込み、ラストボロフ事件などの数々の事件を起こした。

このような様々な活動を行った結果、与党である自由民主党の国会議員をはじめとする保守勢力における共産主義者や左翼への警戒心を増大させ、「反共産主義」を掲げる統一協会とその関連団体である勝共連合と接近し、岸信介など多くの有力な自由民主党議員が統一協会と協力関係を結ぶ一因となったと言う意見も多い。その一方で、自由民主党の国会議員にも様々な工作を仕掛けただけでなく、これらの中には自主的にソ連とのパイプを利用して利権を貪る者がいた。そのような中で、ソ連の樺太侵攻を描いた映画『樺太1945年夏 氷雪の門』が製作された際には、日ソ関係の悪化を恐れた自由民主党と外務省が映画の製作者側に圧力をかけ、東宝系での公開が中止され、単館上映での公開のみとなった。