第二次世界大戦が終わり、東欧を影響圏に置いた共産主義のソビエト連邦との冷戦が激しさを増す中で、イギリスやフランスが主体となり、1949年4月4日締結の北大西洋条約により誕生した。結成当初は、ソビエト連邦を中心とする共産圏（東側諸国）に対抗するための西側陣営の多国間軍事同盟であり、「アメリカを引き込み、ロシアを締め出し、ドイツを抑え込む (Keep the Americans in, the Russians out, and the Germans down) 」という初代事務総長イスメイの言葉が象徴するように、ヨーロッパ諸国を長年にわたって悩ませたドイツ問題に対するひとつの回答でもあった<ref>第二次大戦後のドイツ問題は、一、ドイツを復興させてソ連の影響力を排除する。　ニ、再びドイツがヨーロッパを蹂躙することがないように歯止めをかける。　三、ドイツを誰が守るのか。　という三点に集約された。上記のイスメイの言葉は、ロシアを排除し、アメリカによってドイツを守らせ、同時に歯止めをかけるという処方箋を端的に示している。</ref>加盟国は域内いずれかの国が攻撃された場合、共同で応戦・参戦する義務を負っている。

当初はアメリカなどの一部でドイツの徹底した脱工業化・非ナチ化が構想されていた（モーゲンソー・プランも参照）。また連合軍占領下ではドイツは武装解除され、小規模な国境警備隊や機雷掃海部隊以外の国軍を持つことは許されず、米ソ英仏の四カ国が治安に責任を持っていた。しかし冷戦の開始ととも西ドイツ経済の復興が求められ、主権回復後の1950年には西ドイツの再軍備検討も解禁された。西ドイツは新たな「ドイツ連邦軍」の創設とNATOへの加盟の準備を始めたが、フランスなどはドイツ再軍備とNATO加盟に反対し、欧州防衛共同体構想で対抗した。この構想は1952年に西ドイツを含む西欧各国間で調印されたがド・ゴール主義者たちの反対によりフランス議会で否決され、批准に至らなかった。この結果、フランスもドイツ再軍備を認め、ドイツ連邦軍が1955年11月12日に誕生し、西ドイツはNATOに加盟した。