中華民国・山東省青島で貿易商、写真業を営む三船徳造の長男として生まれる。父は秋田県鳥海町出身。若い頃から良い意味でも悪い意味でもワルだったと言う。その後大連に移り住み、大連中学卒業後、甲種合格で兵役につく。写真の経験・知識があるということから満洲国・公主嶺の陸軍第七航空教育隊に配属され航空写真を扱う司令部偵察機の偵察員となる。後年もカメラに対するこだわりは深かったという。この時期に知り合った鷺巣富雄とは、その後生涯にわたる交友関係となる。熊本の特攻隊基地で終戦を迎える。

東京の東宝撮影所撮影部にいる先輩である大山年治から「戦後、仕事に困ったら尋ねてきなさい」と言われていた為、カメラマン助手の仕事を依頼。履歴書を提出したところ、「何かの手違いで」東宝第一期ニューフェイス募集に回されていたため、面接を受けることになった。人を食ったような態度（笑ってみて、と審査員に言われた時「面白くもないのに笑えませんよ」と答えたという）で不合格になりかけたが、山本嘉次郎監督が審査委員長をしていた中、山本の弟子ともいえる黒澤明がたまたまそれを目撃した。当時の審査委員会は監督など映画製作の専門家と労組代表の半数ずつで構成されており、黒澤は「俳優の素質を見極めるのに専門家と門外漢が同じ一票ではおかしい」と抗議。結局山本が「彼を採用して駄目だったら俺が責任をとる」と発言し、なんとか及第となる。太々しさの中に見える大器の可能性も買われて補欠採用され、思わぬ形で役者の世界に入った。

1947年に黒澤が脚本、黒澤の盟友・谷口千吉が監督をつとめた映画『銀嶺の果て』でデビュー。雪山で遭難する3人のうちの一人を演ずるが、2人目は志村喬だった。1948年にデビュー3作目として黒澤監督『酔いどれ天使』に、破滅的な生き方をするチンピラ役で登場した。主演は医師役の志村だったが、ぎらぎらした野性味あふれる演技で圧倒、一躍人気が上昇する。

その後、黒澤作品には欠かせぬ存在となり『酔いどれ天使』から『赤ひげ』までの16年間で出演しなかった黒澤映画は『生きる』1作のみである。現代劇、時代劇問わぬ黒澤映画の顔であったが、黒澤との確執も伝えられた。三船の死後、黒澤は「会って、三船君、本当によくやったなあ、と褒めてあげたかった。あんな素晴らしい俳優はもういません」とコメントした（ちなみに、三船の死から半年後に黒澤も死去）。

黒澤作品以外にも稲垣浩監督の『戦国無頼』（1952年）、『宮本武蔵』（1954年）、『無法松の一生』（1958年）、岡本喜八監督の『侍』（1965年）、『赤毛』（1969年）、熊井啓監督の『千利休 本覺坊遺文』（1989年）など数多くの作品に主演。初期のころは『七人の侍』の影響か豪放な役が多かったが、その後戦国武将や東郷平八郎・山本五十六といった軍人・偉人の役が多くなった。

晩年は山田洋次監督『男はつらいよ 知床慕情』（1987年）の頑固者の老獣医師や、市川崑監督の『竹取物語』（1987年）の竹の造翁など、渋い演技を見せた。撮影に入る前に台詞・演技を全て体に覚えさせ、撮影に台本を持参しないことも多い、という高いプロ意識でも知られた。

私生活では、1950年に、東宝第一期ニューフェイスで同期だった女優・吉峰幸子と結婚。その後、女優・喜多川美佳との交際が発覚して幸子夫人と別居。実態は家庭内暴力に悩まされた幸子夫人により、三船が追い出された形だったが、本心は三船の改心を望んでいたという。しかし、三船側より離婚訴訟が起こされるに及んで、家庭内の振る舞いが暴露されることになり、そのイメージが大きく低下した。この間、内縁関係にあった喜多川との間にもうけた娘が三船美佳であるが、美佳とかなり年が離れているため、親子というよりはむしろ孫と祖父に見られる事も多かったと言う。不倫相手の名前である「美佳」を子供にそのまま付けるという皮肉な結果となった（ただし喜多川美佳という名前は本名ではない）。1992年に心筋梗塞で倒れたのをきっかけに、三船は正妻のもとに戻った。

1962年には三船プロダクションを設立し、翌年には映画『五十万人の遺産』を自らの主演で初監督。映画『黒部の太陽』（石原プロモーションと合同で制作）のほか、『桃太郎侍』『荒野の素浪人』『大忠臣蔵』などテレビドラマを制作した。1979年に内紛で分裂し、その後は振るわなかった。

1986年に紫綬褒章、1993年に勲三等瑞宝章を受章。

1997年12月24日全機能不全のため77歳にて死去。晩年は軽度の認知症を発症していたといわれ、週刊誌やワイドショー等の話題となっていた。遺作は1995年の『深い河』（熊井啓監督）だった。