平成17年度の定員は1,498人。国家公務員削減の流れに反し、平成16年度定員から36人増員されている。職員のうち、公安調査官（公安職）が調査業務に従事している。なお、幹部以外の職員氏名は公表されない。

東京・霞が関の法務省庁舎内にある本庁以下、東京、大阪など8か所にブロックを管轄する公安調査局、横浜、京都など14か所に府県を管轄する公安調査事務所、その他必要に応じて駐在官事務所が置かれている。 以前は、公安調査局の置かれる都道府県以外の全ての府県に地方組織（地方公安調査局、後に縮小され公安調査事務所）が置かれていたが、2001年（平成13年）1月の中央省庁再編に伴い、一部の事務所が閉鎖統合され、現体制となった。

本庁と地方組織の役割分担としては、地方組織が収集した情報を本庁が一元的に分析・評価し、関係省庁に提供する仕組みとなっている。

本庁は、人事・管理を担当する総務部、国内情報を担当する調査第一部、国外情報を担当する調査第二部で構成されており、公安調査局・公安調査事務所もこれに準じた組織となっている。北朝鮮情報、イスラム過激派によるテロ情報を扱うのは調査第二部である。

法務省の外局らしく、長官・次長・総務部長、以上ナンバー3までが検事である。このほか、調査第一部長に警察庁から警視監クラスの出向者、同第二部長に公安調査官生え抜きが充てられているが、これら最高幹部以外には出向者を受け入れない特異な組織でもある。

一方、その組織規模とは不釣り合いなほどに他省庁への出向ポストが多く、内閣情報調査室を中心として内閣官房に二十数人、外務省（本省、在外公館）に数十人、同じ法務省の組織である入国管理局に数人を出向させている。このほかにも出向ポストが存在するとみられるが、詳細は不明である。出向者は定員にカウントされないため、実際には1,600人弱の職員を抱えていると推定される。