江戸幕府は安政5年（1858年）の日米、日英通商条約（安政五ヶ国条約）で「神奈川」を開港場とすることを約したが、繁華な場所への外国人の雑居により攘夷騒動などのトラブルが起こることを懸念し、出入りの管理が容易で街道筋から離れた対岸の横浜村（現在の神奈川県庁付近）に開港場を開設した。これは条約違反であったが、幕府は横浜は神奈川に含まれると強弁した<ref>佐野真由子「オールコックの江戸」中公新書を参照。</ref>。当初、欧米列国は条約違反を主張していたものの、この外交論争は間もなく終息する。横浜の港湾設備その他の施設が充実してゆくにつれて、神奈川宿は衰退し、横浜が発展し始めたためである。

安政6年（）を立庁記念日としている<ref>県名の由来・立庁記念日、神奈川県。</ref>。

設置当初の神奈川県は従前の神奈川奉行所・神奈川裁判所の事務を引き継ぎ、「六郷川（多摩川）と酒匂川の間、横浜から十里四方」の旧幕府領・旗本領の行政を担当するものとされた。概ね武蔵国の久良岐郡・橘樹郡・都筑郡および多摩郡の一部、および相模国の三浦郡・鎌倉郡・高座郡・大住郡・淘綾郡・愛甲郡に相当する。ただし、藤沢宿以西の東海道筋や相模川以西の諸村の一部事務を韮山県が担当したり、小田原藩や荻野山中藩、六浦藩（武州金沢藩）の管轄区域との調整などに関連して、現実の支配関係は錯綜している。

明治4年7月14日（1871年8月29日）の廃藩置県の後、同年11月14日（1871年12月25日）の太政官布告による関東地方の府県の統合・再編で、神奈川県の管轄区域は武蔵国のうち久良岐郡・橘樹郡・都筑郡および相模国のうち三浦郡・鎌倉郡とされた。また、相模国のうち境川以西の高座郡・大住郡・淘綾郡・愛甲郡・津久井郡・足柄上郡・足柄下郡の区域は伊豆国全域とともに小田原に県庁を置く足柄県に属するものとされた。これに対して神奈川県は、高座郡および武蔵国多摩郡が外国人遊歩区域に含まれることから従前の通り神奈川県の管轄とするべきであるとの上申書を政府に提出し、これを受けて当初は東京府と入間県とに分割されることになっていた多摩郡全域と、足柄県に属することになっていた高座郡とが改めて神奈川県の所属とされた。ただし多摩郡のうち東京の市街地に近接する中野村ほか31村（現在の中野区・杉並区）は明治5年（1872年）8月に再度東京府へ移管された。この結果、多摩地域が神奈川県の管轄となり、相模川が足柄県との県境となった。

4月18日には足柄県が廃止され、同県の旧相模国地域が神奈川県に編入された。旧伊豆国はとなる。