自治大臣・国家公安委員会委員長、自民党幹事長代理、内閣官房長官、自民党幹事長などを歴任。自民党郵政事業懇話会の会長を務め、「郵政族のドン」としても知られ、特定郵便局長会に強い影響力を持ったほか、地方自治の長い経験や自治相経験から、自治省（後の総務省）にも影響力を持っていた。

金丸信の不祥事スキャンダルによる議員辞職に端を発した竹下派（平成研究会）分裂の際に、反小沢一郎グループの急先鋒として名を知られるようになった。また、細川内閣発足によって自民党が下野したとき、京都府議時代の長期にわたる野党経験を生かした質問を行って、党内で実力を認められるようになった。特筆すべきは昭和45年2月10日付けで国税庁長官から全国の税務署長あてに通達による『同和控除』である。この税の優遇措置がエセ同和団体に悪用されていることを衆議院予算委員会で追究した（これは後に野中が自治大臣になったときに、部落解放同盟上杉佐一郎委員長と交渉を行い、国税庁も解消の通達を行うこととなる）。

1994年に自社さ連立による村山内閣で自治大臣・国家公安委員長として初入閣。 1995年、オウム真理教によるテロ事件に破壊活動防止法を適用することを強硬に主張した。また、松本サリン事件で被疑者と疑われた通報者の河野義行に対して国家公安委員長として真っ先に謝罪に訪れた（長野県警は、現在に至るまで河野に謝罪していない）。村山首相は公安調査庁に破防法適用申請を認めたものの、公安審査委員会の審議により否決された。

1996年の橋本内閣では、小沢一郎率いる新進党と連携を図ろうとする梶山静六官房長官ら「保保大連合」派と対立する「自社さ」派の中心メンバーとして、加藤紘一幹事長を支えた。1996年の総選挙後は幹事長代理として加藤幹事長と組んで、新進党からの議員を引き抜いて自民単独過半数を回復させ、新進党解散の一因を作った。

1997年、沖縄県の米軍基地用地の確保を続けるため、橋本内閣は米軍用地特別措置法改正案を出し、野中は衆議院で改正案の特別委員長を務めた。法案の委員会通過後、4月11日に野中は委員会報告を行ったが、報告の最後に

「私たちのような古い苦しい時代を生きてきた人間は、再び国会の審議が、どうぞ大政翼賛会のような形にならないように若い皆さんにお願いをして、私の報告を終わります」

と付け加え、物議を醸した。法案は保保連合によって圧倒的多数で可決される見込みとなっていたため、保保連合を牽制したためとも、。この発言は、新進党の要求により、国会会議録から消されている。なお、法案は同日の衆議院通過後、4月17日に参議院で可決成立した。

1998年第18回参議院議員通常選挙大敗で橋本首相が退陣すると、後継の小渕内閣で官房長官を務めた。小渕恵三総理は、官房長官を固辞する野中に土下座をしてまで就任を頼んだという<ref>『野中広務 権力の興亡 90年代の証言』</ref>。小渕内閣では一転して自自公連立を推進した。官房長官在任中は広島県内の校長が卒業式での日の丸掲揚の対立を巡り自殺したのを機に国旗及び国歌に関する法律を策定、社民党などの猛反対や党内の慎重論を押し切り成立させるなど、ハト派らしからぬ一面も見せている。

1999年9月30日に茨城県那珂郡東海村で発生した東海村JCO臨界事故の際には内閣官房長官として事故対応の指揮を執った。総理官邸に事故状況の報告に来た科学技術庁（当時）の幹部がおろおろして事故現況の報告に詰まると、野中は「とにかく現場へ行きなさい。現場を見ないでどうやってこちら（官邸）に報告出来るのか！ 現場を見て、その状況を報告しないことにはこちらも対策を講じられないではないか」と激怒し、その科学技術庁幹部に東海村の現場へ直ちに行くよう命じた。これは野中自身が後にこの臨界事故について聞かれたときに語っている。

2000年に小渕首相が倒れると、森喜朗自民党幹事長、青木幹雄官房長官、村上正邦参院議員会長、亀井静香政調会長と協議を行い、森幹事長を小渕の後継自民党総裁にすることとした。この協議は、首相を五人組によって密室で選出させたたものとして、野党から厳しく追及され、国民からも大きく批判された。野中は、森の後継として自民党幹事長代理から幹事長へ昇格した。国会で小渕の死を悼む発言をした鳩山由紀夫民主党代表に対し「小渕前総理のご心労の多くがあなたにあったことを考えると、あまりにも白々しい発言」と厳しく批判した。

同年秋の加藤の乱では、加藤派の古賀誠国会対策委員長らと連携、同派議員の多くを切り崩した。その直後、野中は幹事長を辞任、後任に古賀が就任した。この頃、小渕・森政権時代には官房長官・幹事長代理・幹事長として仕切ったことから「影の総理」と呼ばれたこともあった。

森首相退任に伴う2001年自民党総裁選挙では、当初、側近の古賀、鈴木宗男らや公明党から待望論が挙がるも、橋本龍太郎や村岡兼造ら派幹部からその突出振りを疎まれていたため支持が集まらず、結局橋本を担ぐことになる。橋本派は業界団体との強いパイプなどから圧勝すると見られていたが、小泉純一郎に一般党員の支持が集まり、田中派結成以来、総裁選で初の敗北を喫した。なお、野中は総裁選中に「橋本政権樹立後は三役に留任してもらう」と主流派の取り込みを図ったが、党内外で猛烈な反発にあった。

2003年自民党総裁選で、主戦論を唱え、青木幹雄参院幹事長、片山虎之助総務大臣、石破茂防衛庁長官、新藤義孝外務大臣政務官、村岡兼造元官房長官、大村秀章内閣政務官らと激しく対立し、一部の議員をポスト目当てで小泉支持に回っていると批判し、「毒まんじゅう」という言葉を残した（余談ながら「毒まんじゅう」はこの年の流行語大賞に選出され、本人が授賞式に出席した）。野中は自らの引退を賭けて藤井孝男元運輸相を擁立して総裁選に望んだが、首相・自民党総裁の小泉純一郎に大敗した。