シビリアン・コントロール（文民統制）の原則の下、国会が定員、予算、組織などの重要事項を議決し、防衛出動に承認を与える。自衛隊を統括する内閣は憲法の規定により文民で構成されているため、最高指揮監督権をもつ内閣総理大臣と自衛隊の隊務を統括する防衛大臣は文民である。また、内閣に安全保障会議がおかれ、防衛に関する事項を審議する。

陸海空三自衛隊を統合運用するための機関として、統合幕僚監部が置かれ、服務等監督、防衛大臣補佐、命令執行を行う。 最高指揮監督権をもつ内閣総理大臣は統合幕僚長を通じて陸上幕僚長（陸上自衛隊）、海上幕僚長（海上自衛隊）及び航空幕僚長（航空自衛隊）に命令を発する。

なお、内閣総理大臣の立場について、自衛隊法第7条は「内閣総理大臣は、内閣を代表して自衛隊の最高の指揮監督権を有する。」と表現し、また自衛官の心がまえでは「その最高指揮官は内閣の代表としての内閣総理大臣」と表現している。

2008年現在、特別裁判所が憲法で禁止されているため軍法会議（軍事裁判所・軍事法廷）は置かれていない。 諸外国の憲兵に相当する部隊は陸海空各自衛隊に警務隊として組織されている。

• 防衛大臣……国務大臣。自衛隊の隊務を統括
• 防衛副大臣
• 防衛大臣政務官（2人）
• 防衛事務次官
• 防衛参事官（8人）
• 内部部局……大臣官房、防衛政策局、運用企画局、人事教育局、経理装備局
• 防衛大学校……幹部自衛官を養成
• 防衛医科大学校
• 防衛研究所
• 統合幕僚監部 - 統合幕僚長……陸海空三自衛隊を統合運用
• 陸上幕僚監部 - 陸上幕僚長
• 海上幕僚監部 - 海上幕僚長
• 航空幕僚監部 - 航空幕僚長
• 陸上自衛隊……統合幕僚長および陸上幕僚長が監督する部隊および機関
• 海上自衛隊……統合幕僚長および海上幕僚長が監督する部隊および機関
• 航空自衛隊……統合幕僚長および航空幕僚長が監督する部隊および機関
• 情報本部
• 技術研究本部
• 装備施設本部
• 防衛監察本部
• 外国軍用品審判所