4世紀後半期に宇土半島の基部に摺鉢山（すりばちやま）古墳（宇土市、96m）、迫ノ上（さこのうえ）古墳（宇土市、56m）などの前方後円墳が営まれていた。 玉名郡和水町（旧菊水町）に5世紀末～6世紀初頭に造られた前方後円の江田船山古墳がある。同古墳から75文字を銀象嵌した大刀が出土している。

熊本県の領域はかつての肥後国のそれとほぼ重なるが、肥後国は古代においては、「火の国」または「肥の国」と呼ばれていた。これは八代郡ひ郷（肥伊郷）＝現在の八代郡氷川流域に古代の多氏の流れを汲む「火君（ひのきみ）」と呼ばれる有力豪族がおり、地域の中心であったことに由来するとされている。肥の国はやがて、現在の佐賀県・長崎県の地域をも含むようになるが、7世紀終わりごろに肥前国と肥後国に分けられた。

肥後国は生産力が高い豊かな土地で、地理的にも重要と判断されたため、律令体制下では大国のひとつとされた。