大阪市天王寺区で父・正義、母・文子との間に長男として生まれる。7歳の時に住吉区北田辺（現・東住吉区）へ転居。1943年4月に旧制天王寺中学校（現・大阪府立天王寺高等学校）へ入学、5月に国民学校教頭であった父が死去する。第二次大戦後旧制大阪高等学校文科甲類（英語）に入学するが、学制改革により翌年大阪市立大学法文学部法学科（現・法学部）を再受験し入学し直した。大学在学中、谷沢永一主宰の同人誌『えんぴつ』に参加。1952年1月、同人仲間だった詩人牧羊子（壽屋勤務）と結婚。同年7月13日、長女道子が誕生。1953年2月、大学在学中に洋書輸入商の北尾書店に入社。1953年12月1日、大阪市立大学卒業。

1954年2月22日、すでに壽屋社員であった羊子が育児のため退社するのに伴い、後任者として壽屋宣伝部に中途採用され、PR誌『洋酒天国』の編集やウイスキーのキャッチコピー（トリスの「人間らしくやりたいナ」が有名）を手がける。この時代に『裸の王様』で芥川賞を受賞、これを機に壽屋を退職し、執筆業に専念。1964年、朝日新聞社臨時特派員として戦時下のベトナムへ。南ベトナム政府軍に従軍して最前線に出た際、反政府ゲリラの機銃掃射に遭うも生還。総勢200名のうち生き残ったのは17名であった。『輝ける闇』『夏の闇』『花終わる闇（未完）』の3部作はこの戦争での凄烈な体験をもとに書かれている。

熱心な釣師としても知られ、日本はもちろん世界中に釣行し、様々な魚を釣り上げ、『オーパ！』、『フィッシュ・オン』など釣りをテーマにした作品も多い。現在では浸透している“キャッチアンドリリース”（釣った魚を河に戻す）という思想を広めたのも開高だと言われている。また食通でもあり、食と酒に関するエッセイも多数。

1989年、食道癌の手術後、『珠玉』を脱稿するも再入院、食道腫瘍に肺炎を併発し死去。享年58。墓所は鎌倉・円覚寺塔中、松嶺院にある。死後、開高の業績を記念して、集英社がノンフィクションを対象に開高健ノンフィクション賞が創設された。また、後半生の16年間を過ごした神奈川県茅ヶ崎市に開高健記念館が開設されている。