日本で三番目の帝国大学として、1907年（明治40年）に創設された東北帝国大学を前身とした大学である。

東北帝国大学創立期の大学の略称は、東京帝国大学のそれが「東大」であったため「北大」であった<ref>河北新報1922年11月18日記事見出し</ref>。後に東北帝国大学から分立した北海道帝国大学は「海大」とされた。ただし、現在では「北大」を東北大学の略称とすることはなく、「東北大」が用いられる。また「東北」の中国語読み（Dong1 Bei3）から「トンペイ」「トンペー」の愛称も使用されている。なお、「東北」（北東）を一字の方角で表すと「艮」（ごん; うしとら）となるため、東北大学医学部の関連施設や団体では「艮陵」（ごんりょう）の名称が数多く用いられているが、大学全体や他の学部での使用例は少ない。