群馬県高崎市に父・中曾根松五郎 母・ゆくの次男として生まれた。生家は関東有数の材木問屋「古久松」である。敷地は3ヘクタール（3万平方メートル）もあってそこに住居と工場があり、働いている職人が中曾根の学生時代には150人、住み込みの女中が20人ぐらいは常時いた豪商だった<ref>『新総理 中曾根康弘の研究』139頁</ref>。

地元の小学校へ進学後、旧制高崎中学、旧制静岡高校を経て東京帝国大学法学部政治学科へ進む。

同大学を卒業後、内務省に入省。同期入省組に早川崇や小沢辰男、大村襄治らがいた。