第21回参議院議員通常選挙への与野党の舌戦開始早々、自殺した松岡の後任である赤城徳彦農林水産大臣にもいくつかの事務所費問題が発覚。安倍はこういった閣僚の諸問題への対応が遅いと非難された。選挙中に発生した新潟県中越沖地震では発生当日に遊説を打ち切り現地入りした。2007年の参議院選挙では「年金問題」の早期解決を約束し、「野党に改革はできない、責任政党である自民党にこそ改革の実行力がある」とこれまでの実績を訴えた。選挙前、安倍は「そんなに負けるはずがない」<ref name=shincho2008010329>安倍昭恵「初めて明かす『安倍辞任』の真相」『週刊新潮』53巻1号、新潮社、2008年1月3・10日、29頁。</ref>と楽観視していたが、結果は連立を組む公明党との議席を合わせても過半数を大きく下回る歴史的大敗を喫した。これまで自民党が強固に議席を守ってきた、東北地方や四国地方で自民党が全滅、勝敗を左右する参議院一人区も、軒並み民主党候補や野党系無所属に議席を奪われた。

安倍は選挙結果の大勢が判明した時点で総理続投を表明したが、これについては、応援演説において「私か小沢さんか、どちらが首相にふさわしいか」と有権者に「政権選択」を迫るような趣旨の発言をしていたことから内外から続投に対する厳しい批判が出た。また、同年7月31日の自民党総務会においても、「決断されたほうがいい」などと党内からも退陣を促す声が出た（安倍おろし）<ref>自民総務会で首相退陣論が噴出「政権選択迫ってしまった」読売新聞</ref>。赤城農相を参院選直後の8月1日に更迭したが、「遅すぎる」と批判された。この頃から安倍は食欲の衰えなど体調不良を訴え始め、8月19日から8月25日のインドネシア、インド、マレーシア3ヶ国訪問後は下痢が止まらなくなり、症状は次第に悪化し始めた<ref name=shincho2008010329/>。