中国地方のほぼ中央部を東西に貫く形で建設されており、1983年に全通した。高速道路網としては初期の部類に入り、元々中国縦貫自動車道（国土開発幹線自動車道の路線名）の路線が指定された際には、中国地方においては高速道路網の東西軸は1本のみを建設するとされていた（山陽自動車道・山陰自動車道の計画が策定されるのは1987年の第四次全国総合開発計画においてである）ため、山陽地方からも山陰地方からもほぼ等距離にアクセスできる中国山地沿いの位置にされたものである。

しかしながら長大トンネル等の土木技術が確立途上にあった時期の建設であり、山肌を縫うように建設された結果、高速道路としてはカーブやアップダウンの多い線形となり、大半の区間で最高速度が80km/h以下に制限されている。1997年に山陽自動車道が全線開通すると、通過交通の大半が直線的に計画された山陽自動車道へシフトする状態となっている（、の節を参照）。現在は日本を縦断する国土軸においては山陽自動車道を補完する役割を担っている。また、中国山地沿いの各都市（津山市、新見市、庄原市、三次市、美祢市など）や、米子自動車道・浜田自動車道等を介して接続される山陰地方の各都市にとっては、他地域との交流の上で欠かせない重要な交通ルートとなっている。

近畿地方では、高速自動車国道の路線としては、中国縦貫自動車道は、起点の吹田市において近畿自動車道天理吹田線の終点であり、吹田市-神戸市において山陽自動車道吹田山口線と重複している。大阪府道2号大阪中央環状線（側道）と併せて関西内陸の中心都市を通過していることから、交通量が極めて多く渋滞の発生が顕著である（の節を参照）。関西4環状ネットワークにおいては、関西中央環状道路として、さらに明石海峡、紀淡海峡を横断する、一周約240kmの環状道路を形成する。

また1995年の兵庫県南部地震で、京阪神の交通網が大きく寸断された際、道路以外も含めた交通の大動脈の中で、対面通行となりながらも唯一機能した存在でもある。このことで、交通の大動脈の大半が神戸市の海沿いを通っている集中ぶりが、改めてクローズアップされることとなった。