1868年1月3日（慶応3年12月9日）、維新政府は王政復古の大号令を発した翌日、総裁・議定・参与からなる三職制を定めた。そして、参与としての人材を得るため、徴士貢士制を定めて各藩から藩士を集めた。もっとも実際には、薩摩・長州出身者から官吏を登用することが多く、地縁・血縁を重視した藩閥政府が形成された。

この情況を憂えた伊藤博文は、1882年（明治15年）のヨーロッパ訪問調査団において、ドイツ・フランスが官吏養成所を作り、各界各層から広く人材を求めて成功した事例を調査させた。帰国した伊藤は、1885年（明治18年）に内閣制度を定めて内閣総理大臣に就任した。1886年（明治19年）に帝国大学令を定めて東京大学を帝国大学とし、藩閥にとらわれない官吏養成機関（主として文官の養成機関）とした。

翌1887年（明治20年）には文官試験試補及見習規則を定め、これに基づく試補試験を実施して各省は試補として採用した（初年度は合格者なし）。この試験は専門学校（後の私立大学。学士の称号は得られないとされた）出身者に受験資格を付与した。帝国大学の法科大学・文科大学の卒業者は、この試験を経ずに各省の試補として採用され、こちらの方が採用人数は多かった。入省後、学士試補が主流で試験試補は傍流という実質的な差別待遇も行われ、後の官学・私学による待遇格差の遠因となる。

他方、文官と共に官吏をなす武官についても、薩長藩閥によって占められる状況（海軍は薩摩、陸軍は長州）が続いた。1869年（明治2年）二官六省が置かれ、兵部省の下に軍人が統括された（1872年（明治5年）、陸軍省と海軍省に分割）。この制度の下では、軍人も未だ官吏の一種に過ぎず、太政大臣と兵部卿（後、陸軍卿・海軍卿）の下に置かれる。

1878年（明治11年）、近衛兵の一部が西南戦争後の待遇や俸給への不満などから、暴動を起こす（竹橋事件）。この事件をきっかけに、軍令（作戦・用兵に関する統帥事務）と軍政（軍の編制・維持・管理などに関する国務）を分離すべきという主張が唱えられ、同年、陸軍省から独立した参謀本部が陸軍に設置される（1893年には海軍に軍令部が置かれる）。これは後に大日本帝国憲法の下、軍令は天皇の統帥権に基づき参謀本部が補弼し、軍政は天皇が編制大権に基づき国務大臣が輔弼する体制へと発展し、統帥権独立の端緒となる。これにより、初めて官吏のうちに文官と武官の区別が生じる（以下、詳細は武官の項目を参照のこと）。