地震発生後、消防・警察・自衛隊などの各組織は救助活動に入っている。

総務省による救助活動の重要性を示している。 消防や警察は、この地震での失敗を教訓にして、後の特別高度救助隊・高度救助隊の創設のきっかけとなる消防機動救助部隊（通称ハイパーレスキュー）や緊急消防援助隊・広域緊急援助隊を創設することになる。

自衛隊については、地震発生数分後には行動を始めたものの、阪急伊丹駅へ近傍派遣（災害派遣）を行った第36普通科連隊を除き、神戸市中心部への災害派遣は直ちにはなされなかった。第36普通科連隊は、「近傍派遣」（自衛隊法第八十三条三項）によって出動しているが、他の部隊は知事の要請（自衛隊法第八十三条一項）の待機状態になっていた。

貝原俊民・兵庫県知事（当時）からの災害派遣要請はすぐに行われなかったが、これは各所轄の警察署単位で調べていた被害情報を、兵庫県警本部の警備部がまとめていたのに連絡を怠り、貝原知事にまで伝達されなかったことが最大の原因であった。例えば兵庫県警東灘署だけでも午前8時に「死者100名以上、行方不明者数百名」という情報を把握していたにもかかわらず、兵庫県警警備部が知事への報告を地震発生後2回しか行わず、午前10時の段階で知事に伝わっていた兵庫県全体の被害情報は「死者4名」というあまりに現実とかけ離れたものだった<ref>JNN報道特別番組「失われた街で～阪神大震災から1ヵ月」＝1995年2月17日放送</ref>。貝原知事は「被害情報が正しく伝えられていれば、即座に自衛隊派遣要請を出来ていた」と答えている<ref>JNN報道特別番組「失われた街で～阪神大震災から1ヵ月」＝1995年2月17日放送</ref>。

こうした状況把握の混乱から、派遣要請は、地震発生から4時間後に自衛隊との電話が偶然つながった野口一行・兵庫県消防交通安全課課長補佐（当時）の機転で行われ、知事へは事後承諾となった。これを教訓に、後に自衛隊への派遣要請は都道府県知事や市町村長または、警察署長などからも要請が行えるようになった。