2001年、『シンセミア』執筆の合間に書いたという中篇「ニッポニアニッポン」で第125回芥川賞候補、翌年三島賞候補となる。本作では少年がインターネットを通じてトキ保護センターのトキ殺害を計画する姿を描いた。

2003年、『シンセミア』刊行。雑誌連載を1999年11月に開始してから4年掛かりで完成させた1600枚に及ぶ大作であり、東根市神町を舞台に壮大なスケールの物語を展開させ、高い評価と注目を得た。大江健三郎の『万延元年のフットボール』、中上健次の『枯木灘』などと比較されることも多い。2004年、同作で第58回毎日出版文化賞第1部門、第15回伊藤整文学賞小説部門をW受賞。

2005年、「グランド・フィナーレ」で、第132回芥川龍之介賞を受賞。娘のヌード写真を撮った事がばれて、妻から離婚されて失職したロリコン男性が、東根市神町で2人の少女と出会うという物語である。デビュー10年、『シンセミア』で既に作家的地位を確立した上での受賞となり、受賞会見では「複雑な心境」と語る。選考委員の宮本輝からは「小説の芯のようなものが太くなった」と評された。同年『新潮』11月号に受賞第一作となる短編「課長 島雅彦」を発表、盟友である中原昌也と島田雅彦の諍いを受けて島田の文壇的な振る舞いを揶揄した。

2006年の『ミステリアス・セッティング』では現代の『マッチ売りの少女』を目指したとして、吟遊詩人に憧れる少女の悲劇を描いた。またこの作品は紙媒体ではなくケータイ配信の形で発表された。阿部はインタビューで「十数年小説を書いてきて」作品のスタイルを変えることが困難になったと言い、小説の書き方をリセットするためにケータイ小説の形を選んだとしている（『メンズノンノ』2007年3月号）。2009年現在『群像』にて長編『ピストルズ』を連載中。