1977年オフには大洋ホエールズからジョン・シピンを獲得し、正二塁手とするなど、さらなる強化策を図った。しかし1978年はシーズン当初から低迷が続き、8月後半、いったんは首位に立つものの力尽き、結局、広岡監督率いるヤクルトにペナントを奪われた。長嶋が巨人に入団した当時の監督であった水原茂は、ヤクルトの優勝が確定的となった10月1日、テレビ朝日のニュース番組「こちらデスク」の放送中、「長嶋は野球を知らないのではないか」と、長嶋の監督としての手腕を批判した。巨人OBによる長嶋の采配に対する批判が、公の場でなされたのはこれが初めてであった。江川卓の入団をめぐって騒動（江川事件）がおきたのはこのシーズンのオフのことである。

エース小林繁を江川の代わりに阪神へトレードに出した1979年は5位に終わり、長嶋は若手を率いて静岡県伊東市で秋季キャンプを行なった。このキャンプでは中畑清・篠塚利夫・定岡正二らが成長株として、このシーズン限りで引退した土井正三や、衰えが見えてきたV9時代の主力選手の後継者として期待された。また、このオフには張本がロッテオリオンズに放出され、ニューヨーク・ヤンキースでプレーしたロイ・ホワイト外野手を獲得した。ホワイトは張本に代わり、1980年のシーズン中には40歳を迎える王とともに打線の中軸を担う人材として期待された。スタッフでは、長嶋の理解者であるOB青田昇をヘッドコーチに招請するなど、チーム再建を企図した。しかし青田は週刊誌のインタビューで、暴力団と自身の交際を認めるような発言をしたため問題となった（青田舌禍事件）。この責任を取り青田はシーズン前に辞任する。