かつて青森駅と函館駅を結ぶ鉄道連絡船として、日本国有鉄道（国鉄）により青函航路（青函連絡船）が運航されていた。しかし、1950年代には、朝鮮戦争によるものと見られる浮流機雷がしばしば津軽海峡に流入、また1954年9月26日、台風接近下に誤った気象判断によって出航し、暴風雨の中、函館港外で遭難した洞爺丸他4隻の事故（洞爺丸事故）など、航路の安定が脅かされる事態が相次いで発生した。

これらを受けて、太平洋戦争前からあった本州と北海道をトンネルで結ぶ構想が一気に具体化し、船舶輸送の代替手段として、長期間の工期と巨額の工費を費やして建設されることとなった。

の建設が再開され、開通していたとも言われている。

当初は在来線規格での設計であったが、整備新幹線計画に合わせて新幹線規格に変更され建設された。整備新幹線計画が凍結された後、暫定的に在来線として開業することになったものの、軌間や架線電圧の違いを除けば、保安装置（ATC-L型）も含めて新幹線規格を踏襲しており、のちに考案されるスーパー特急方式の原型となった。

トンネルは在来工法（一部の運行を行うことも定められていた（青函カートレイン構想）が、（この意味では）実現には至っていない。

開業前には要した巨額の費用と収益があまりにも釣り合わないとして「無用の長物」、「昭和三大馬鹿査定」、「泥沼トンネル」などと揶揄されたこともあった。

しかし、開通後は北海道 - 本州間の貨物輸送に重要な役割を果たしており、一日に上下50本もの貨物列車が設定されている。天候に影響されない安定した安全輸送が可能となったことの効果は大きい。特に北海道の基幹産業である農産物の輸送量が飛躍的に増加したとされる。対照的に、旅客は航空輸送の高度化・価格破壊などから減少が進んでいる。2007年9月1日には青森函館間を1時間45分で結ぶ高速船ナッチャンReraが就航し、青函トンネル旅客輸送における新たな競合相手となっていたが、これは2008年11月1日で運航終了となった。このような状況ではあるが、今後は北海道新幹線開業による輸送量増加が期待される。

海底にあるため施設の老朽化が早く、保守管理は、線区を管轄するJR北海道にとって大きな問題になっている <ref>日刊建設工業新聞 北海道版、JR連合 政策ニュース。</ref>。

また、開業当初は、乗車券のみで乗れた青函連絡船の代替という意味もあり、主たる輸送が快速「海峡」にて行われ、特急「はつかり」は一部速達性を要する時間帯のみであったが、2002年12月の東北新幹線八戸開業により列車体系が大幅に変更され、特急・急行列車のみとなった。

ちなみに、青函トンネルの中央部は、公海下の建造物ということで、開業前にその帰属および固定資産税の課税の可否が問題となったが，本邦領土の一部として各自治体に編入され，固定資産税もそれに応じて課税されることとなった。<ref>昭和63年3月13日に事務次官会議において自治体境界を定め、公海下部分のうち、約4.7kmを三厩村、約5kmを福島町に編入することとなり、同月16日の政府閣議で決定し、同月24日に告示された。</ref>