その後、イスラエルとの対話路線に転じて穏健派の指導者として復活を図り、1993年和平を成立させてイスラエルのイツハク・ラビン首相と会見した。翌1994年、和平協定に基づいてパレスチナ自治政府が設立されるとパレスチナに戻り、1996年1月の選挙でその長官（大統領）に選出された。

しかし、その後イスラエルとの和平プロセスはイツハク・ラビンの暗殺がきっかけで幾度となく危機を迎え、2000年9月28日にイスラエルのアリエル・シャロン(後の首相）がエルサレムの神殿の丘にあるイスラム教の聖地に踏みこんだ事件をきっかけにハマースら非PLO系の組織を主流とするインティファーダ運動が起こり、イスラエルとパレスチナの対立は決定的となった。アラファートはこの混沌とした情勢においてかつてのように強い指導力を発揮することができず、一方ではテロの制止に失敗してパレスチナ人の支持を失い、また一方ではイスラエル政府からの信頼を失っていった。

パレスチナ人武装勢力による対イスラエルテロが激化するとともにイスラエルはアラファートをテロ蔓延の原因とみなして敵視を強め、ヨルダン川西岸地区のラマッラー（ラマラ）にあるアラファートの議長府（大統領府）は2001年より長らくイスラエル軍による包囲・軟禁状態に置かれた。