1930年、埼玉県深谷市で父・武井濱次郎、母・まさの元に生まれた。実家は生活雑貨などを扱う小さな商店で、ほとんど母が一人で切り盛りしていた。小学3年生の頃、父親が近所の女性と大阪に駆け落ちした。

1944年（昭和19年）に明戸国民学校の高等科を卒業すると、熊谷の陸軍の整備員となったが、間もなく敗戦を迎えた。戦後は国鉄職員として大宮駅に勤務した後、東京でビルサッシの工事を営んでいた叔父を頼って上京。建設業、野菜の行商など職業を転々とした。その後、公営住宅の主婦を相手に高利貸し業を始め、1966年（昭和41年）に武富士の前身である富士商事を設立した。

2003年（平成15年）12月、ジャーナリスト宅盗聴事件に関与したとして電気通信事業法違反で逮捕され、武富士会長を辞任。2004年（平成16年）11月、懲役3年 執行猶予4年の有罪判決を受けた。その後、入退院を繰り返し、2006年8月10日に執行猶予のまま肝不全のため死去。享年76。長男は武富士専務の武井俊樹。

生前買収したオランダ法人に自己の保有する武富士株を売却、このオランダ法人の株を当時香港に在住していた長男・武井俊樹が取得するという方法で巨額の相続税を免れようとしたが、国税当局から1300億円の追徴課税が課せられた（この課税処分を不当として提訴し、地裁で勝訴、高裁で敗訴）。

武井は、朝礼で社員に自分の写真に向かい「本日もお願いします」終わりに「本日もありがとうございました」などと挨拶をさせたり、自分は偉大であり、尊敬する人物であるということを社員教育の中で徹底的に教育するなど、独裁者気質のある人間だった。

会社の運営も独裁そのもので、不満や不平を言う人間は容赦なくやめさせ、そういった不満分子をあぶりだすための監視機構を作ったりと従わない人間に対して容赦なく弾圧を加えていった。こういったことは当然外でも問題となっていたが、前述の通り武富士に不利な記事を書くと即訴訟を起こすなどということをやって、武井の意に背くような記事には常識を超えるような様々な弾圧を加え、問題のある人物であることは噂されていたが、こういった問題は武井が逮捕されると湯水のように報道された。