日本の軍歌について言えば、厳密には軍によって作られたものが軍歌であるが、一般的には戦時歌謡や兵隊ソングなど軍隊や戦争、国体、国策等を歌ったものもまとめて軍歌と称する。このため、銃後と呼ばれた日本本土での普段の生活で歌われた、「愛国行進曲」や「紀元二千六百年」も軍歌と呼べるだろう。基本的に陸軍の連隊や海軍の軍艦では、それぞれ固有の部隊歌や艦歌を持っていることが多かったが、さらに小さい部隊単位や新設部隊などでも「加藤隼戦闘隊」に代表されるように各部隊ごとに独自に部隊歌を作って歌うことも多かった。（軍歌の分類）

正式・非正式を問わず、軍歌は曲調や歌詞の内容などによって、場面場面に合わせて演奏または歌唱された。たとえば出征兵士の壮行の際には当初「露営の歌」が使われていたが、悲壮すぎて気がめいるため、後には「日本陸軍」や「出征兵士を送る歌」に切り替えられた。また、出陣学徒壮行会での「分列行進曲（抜刀隊）」や、輸送船や軍艦が沈没した際に勇壮な軍歌を歌いあって気力を保った話なども有名である。

一般将兵にはどちらかというと哀調を帯びた軍歌が好まれたらしく、特に「戦友」（勇壮でないとされ、「雪の進軍」などとともに昭和初期に歌詞改訂、次いで大戦期には歌唱禁止）は競って愛唱され、日本の軍歌中の最高傑作だとする声も多い。

この項では自衛隊歌についても紹介する。