大阪駅は阪急や阪神、大阪市営地下鉄御堂筋線が広い地下街などを通してつながるが、JR以外の各路線の駅は「梅田」と呼ばれる。さらに地下鉄谷町線・東梅田駅、四つ橋線・西梅田駅もすぐのところにある。大阪は駅進入や進出の高速化を狙った配線単純化、さらには北ビル新築工事のための工事が続いており、将来は北と南の駅ビル間に大きなドーム屋根を架けた新しい姿になる予定である。

大阪からは「JR神戸線」と呼ばれる区間になる。大阪環状線が左にカーブして離れて行くと、阪神高速池田線と並行して再び淀川を渡り塚本駅に至る。しばらく走り、阪神高速池田線が右にカーブして乗り越えて離れて行き、その先で左にカーブして地下から出てきたJR東西線を挟み3複線となって神崎川を再び渡ると兵庫県に入り、尼崎駅に着く。尼崎駅は福知山線（JR宝塚線）とJR東西線が分岐するターミナル駅で、新快速や福知山線（JR宝塚線）を走る特急が停車する。

ここから芦屋付近までは、再び住宅地が広がる中を走ることになる。尼崎を過ぎると次は尼崎市役所の最寄駅である立花駅である。この駅は普通列車のみが停まるJR西日本の駅の中で利用数が最多である。立花を過ぎると武庫川を渡って西宮市に入り、すぐに甲子園口駅があるが、阪神甲子園球場へは阪神の甲子園駅のほうが近いので、最寄駅とはいい難い。なお、この付近から阪急神戸本線、阪神本線の線路が次第に近づき、JRを含めた三社並走の競争区間が再び始まる。北から順に阪急神戸本線、東海道本線（JR神戸線）、阪神本線の並びである。

甲子園口駅を過ぎ、名神高速道路と阪急今津線を潜り、西宮駅（2007年3月18日に西ノ宮駅から改称）に入る。阪急の西宮北口駅と同じ西宮市であるが、そちらとは離れている。列車は住宅街の中を快走し、続いて1面2線のさくら夙川駅、新快速停車駅の芦屋駅に至る。天井川の芦屋川を抜けると、神戸市に入り甲南山手駅に着く。次の摂津本山駅は阪急の岡本駅と500mほどしか離れていない。天井川の住吉川の下を抜け、六甲ライナーと連絡する住吉駅 (JR西日本・神戸新交通)に至る。住吉を出ると高架になり石屋川を渡るが、ここはかつて当時天井川だった石屋川を潜る日本初の鉄道トンネル（石屋川隧道）があった。阪神・淡路大震災による倒壊から再建された快速停車駅の六甲道駅、神戸港駅につながる廃線跡を見ながら灘駅を過ぎ、阪急神戸本線と並行して高架線を走り、阪急の春日野道駅を横目に見て新生田川を渡って市街地に入り三ノ宮駅に着く。

三ノ宮駅は阪急・阪神の神戸側のターミナル駅でもあり、駅同士の間隔はJRを挟んで接近している。そのため、駅前地区は大阪からここまでのJR神戸線では、最大の賑わいである。神戸高速鉄道、ポートライナー、神戸市営地下鉄のターミナル駅でもある。

三ノ宮駅を出ると阪急と直通している神戸高速鉄道と並行して高架線を走り、それが地下に潜って行くと元町駅へ入る。この駅の高架下には元町高架下商店街があり、買い付けに来る外国船員の姿も見られ、華僑の町であった南京町は、横浜、長崎と並ぶ日本三大中華街の一つである。また、神戸ルミナリエ会場の最寄駅でもある。元町駅の次は東海道本線の終端駅・神戸駅である。

神戸は、メインターミナルとしての機能や賑わいは三ノ宮に一歩譲るが、神戸ハーバーランドなどの開発が進み、ショッピングや観光目的での乗降客は多い。また、多くの参拝客を集める湊川神社も近い。なお、山陽新幹線の新神戸駅は、神戸からではなく、手前の三ノ宮から神戸市営地下鉄に乗り換える必要がある。

神戸以西は山陽本線となるが、米原・京都方面からの列車は、そのままこの先の西明石や姫路・播州赤穂まで運行されるものが多い。