5世紀前半には、在地土豪がヤマト王権に服属。相模川流域に相武（さがむ）国造、酒匂川流域に師長（しなが）国造、鎌倉・三浦付近に鎌倉別が任命された。534年には橘樹郡・久良岐郡に屯倉が設けられる。古代から中世にかけては、住人の中の富者が開墾地を広げ貢納物資の輸送にあたるなどしてさらに富裕となり、これを守るための自衛武力を蓄える。中央から相模・武蔵に派遣された役人の土着が相次いだ。相模国の国府は初め海老名に置かれ、後に移された。移転先の所在地は、はっきりしないが、大住郡や余綾郡にあったと言われる。延喜式内社としては足上郡に寒田神社、余綾郡に川勾神社、大住郡に前鳥神社、高部屋神社、高座郡に寒川神社（名神大社）などが鎮座する。

中世には鎌倉に初めて幕府が開かれ、武家政治の中心となる（鎌倉時代）。 戦国時代には小田原城を拠点とする戦国大名北条氏が旧支配勢力を滅ぼし、関東の覇者として不動の地位を固めた。後北条氏の優れた統治のもと、小田原は関東最大の都市に成長した。独自に海外と交易を行い、城下に唐人町を抱え、名君として名高い三代当主北条氏康によって日本で初めての水道である小田原早川上水が建造されるなど、日本で最も進んだ都市の一つであった。

江戸時代には小田原藩が存在したが、旗本領も多く、三浦按針（ウィリアム・アダムス）が徳川家康から三浦半島に領地を拝領したことは有名である。江戸時代中期以降、現県域内に本拠を置いたのは小田原藩のほかに同藩の支藩である荻野山中藩および武蔵金沢藩（六浦藩）があり、ほかに県域外に本拠を置く藩（烏山藩、佐倉藩、西大平藩など）の飛地が多く配された。小田原藩は相模川以西にある程度まとまった所領を有していたが（全域を領していたわけではない）、特に相模川以東では幕府領・旗本領・大名領のいずれについても支配が細分されて相給とされる村が極めて多く、現県域内において地域的なまとまりを醸成するような一円的な支配は行われなかった。

江戸時代初期には徳川家康が好んで鷹狩りを行い、小杉御殿（現在の川崎市中原区）、神奈川御殿（横浜市）、藤沢御殿（現在の藤沢市）、中原御殿（現在の平塚市）などの将軍滞在所が置かれた。これらの御殿の使用は、3代将軍徳川家光の代までおこなわれ一時すたれたが、8代将軍徳川吉宗の代に復活した。