1868年、徳川幕府の直轄領（天領・旗本の領地）が明治政府の直轄領になり、三都（江戸・大坂・京）や、開港した5港などを管轄する重要地域を府とし、それ以外を県として、府に「知府事」が、県に「知県事」が置かれた。藩はそのまま大名（諸侯）が治めた。

1869年7月25日、かねてより諸侯から出されていた版籍奉還の願い出を受け入れ、諸侯を代替わりさせた上で知藩事として引き続き各藩の統治を任せた（廃止された藩もある）。

この時点で、諸侯は領地と領民に対する統治権を全て天皇に奉還したことになっているものの、実質的な地方支配体制は、幕藩体制の江戸幕府の地位を明治政府が引継ぎ大名の役名や任地などの名称が変更されただけであり、府藩県三治制と呼ばれる（府県のみ直轄）。

1869年8月24日の太政官布告によって、京都府・東京府・大阪府以外は全て県と称することが決まり、前後して他の府（神奈川府・新潟府・越後府・甲斐府・度会府・奈良府・箱館府・長崎府）が県に名称変更した。この時点では、天皇が東京行幸で東京にいたが、高御座（天皇の在所を示す玉座で、これのある場所が皇居とされる）の移動が無かったので、高御座のある京都府の方が東京府より序列が前になっている。なお、この太政官布告前は、東京府は江戸府と呼ばれており、同時に江戸から東京に改称された。

1871年8月29日に行われた廃藩置県により、藩は県となって、全国が明治政府の直轄となった。結果的に、1使（開拓使）3府（東京府・京都府・大阪府）302県となる。この時点では江戸時代の藩や天領の境界をほぼそのまま踏襲したものであったため、飛び地が全国各地にみられて府県行政に支障を来たしていた。同年12月にはこれを整理合併し、1使3府72県となった。

1876年に県の大規模合併が行われ、1878年に制定された地方三新法の1つ、郡区町村編制法により合併や領域変更が行われ、一時は37府県まで減ったものの、分割運動によって1889年の市制・町村制、1890年の府県制・郡制の制定を経て、1庁（北海道庁）3府（東京府・京都府・大阪府）43県となった。1890年以後、県の合併・分割は一切行われず、1943年に正式に内地編入された樺太庁が追加されたほか、同年、東京府が東京都となり現在に至っている。（終戦時、1都（東京都）2庁（北海道庁・樺太庁）2府（京都府・大阪府）43県）

沖縄県は1945年から（正式には日本国との平和条約が発効した1952年4月28日から）1972年のアメリカによる占領下では、日本の統治下になかったため、この時期における沖縄の扱いは微妙であり、国会では「琉球政府」、「南西諸島」などの呼称が使用され、都道府県の数では1都（部）1道2府42県などと数えられ、沖縄は県の数として含められていない<ref>国会議事録第6回衆議院地方行政委員会10号（昭和24年11月25日）門司委員、あるいは国会議事録第38回参議院文教委員会9号（昭和36年03月09日）矢嶋三義など多数 </ref>。

廃藩置県後、県の長官は「知県事」から「県令」と改称され、京都府・東京府・大阪府など府の長官は「知府事」から「知事」と改称された。1886年以後は、両者とも「知事」と呼ばれた。府知事や県令（県知事）は、内務省から派遣される官僚であった。一方で、1878年に制定された地方三新法の1つである府県会規則（北海道には適用されなかった）によって府県会が置かれることになり、地方自治の主体としての性格も併せ持った。

1889年に市制が始まるが、市を代表するのは市会であり、現在のように市長ではなかった。ただし、「県」下の市には「市会推薦市長」が存在したのに対し、「府」下の市（東京市・京都市・大阪市）には市長は存在せず、府知事がその役を兼務した。これら3市では、1898年10月になって初めて市長が生まれた。

国の地方行政官庁としての府県は、勅令である「地方官官制」によって、地方自治体としては法律である「府県制」（明治23年 法律第35号（明治32年、法律第64号で全面改正））によって規定されている。

沖縄県は、「県」が設置される経緯が、他の県と異なっている。