西暦632年にムハンマドが死去した後、イスラーム共同体の指導者としてアブー＝バクルが選出され「神の使徒の代理人」（ハリーファ・ラスール・アッラーフ）を称したことに始まる。2代目のカリフとなったウマルは「信徒たちの長」（アミール・アル＝ムウミニーン）という称号を採用し、カリフの称号とともに用いられるようになった。

その後、ウスマーン、アリーに受け継がれ、ウマイヤ朝、アッバース朝に世襲されてゆく過程でハワーリジュ派、シーア派などがカリフの権威を否定して分派し、従うのはスンナ派のみになった。その後10世紀にアッバース朝のカリフが大アミールに政権を委ねるようになるとカリフは実権を失って、アミールやスルタンの支配権を承認し代わりに庇護を受け入れるだけの権威に失墜した。さらに後ウマイヤ朝もカリフを称するようになって、スンナ派全体に影響力を及ぼすことさえ出来なくなった。1258年にはモンゴル帝国によってアッバース朝のカリフが殺害され、アブー・バクル以来連綿と続いたカリフはここで一度途絶えた。

しかし、その3年後にマムルーク朝は、生き残ったアッバース家の一部の者を首都カイロに迎え新たにカリフとして擁立し、外来者であるマムルーク（奴隷軍人）出身のスルターンに支配の正当性を与える存在として存続させた。1517年、マムルーク朝がオスマン朝に滅ぼされると、カイロのカリフはオスマン朝の都イスタンブルに連れ去られて、アッバース家のカリフは二度目の終焉を迎えた。

オスマン朝は当初、カリフ位の権威に頼らずとも実力をもってスンナ派イスラーム世界の盟主として振舞うことができたが、18世紀の末頃から19世紀にかけて、ロシアなどの周辺諸国に対する軍事的劣勢が明らかになると、オスマン帝国内外のスンナ派ムスリム（イスラーム教徒）に影響を及ぼすために、カリフの権威が必要とされるようになった。そこで、16世紀初頭にオスマン帝国のスルタンはアッバース家最後のカリフからカリフ権の禅譲を受け、スルタンとカリフを兼ね備えた君主であるという伝説が生まれた（スルタン＝カリフ制）。オスマン家のスルタン＝カリフは1922年、スルタン制が廃止され、1924年にカリフ制も廃止された。同年、預言者ムハンマドに連なる家柄の出身であったヒジャーズ王国の王、フサイン・イブン・アリーがカリフを名乗ったが、これが広く認められるものとならなかったこともあり、みたびカリフの地位は消滅することになった。