Charizmatický vodca, ktorý sa zriekol terorizmu až koncom roku 1988, sa v 90. rokoch stal určitou nádejou na vyriešenie dlhoročného izraelsko-palestínskeho konfliktu. Ako šéf Organizácie pre oslobodenie Palestíny (OOP) sa zapojil do tajných rokovaní s Izraelom, ktoré vyústili do podpisu dohody o vzniku palestínskej samosprávy v septembri 1993. V júli 1994 sa po 27 rokoch v exile vrátil do Palestíny, koncom roka 1994 dostal spolu s Izraelčanmi Jicchakom Rabinom a Šimonom Peresom Nobelovu cenu za mier.
V januári 1996 ho zvolili za prezidenta palestínskej autonómie a viedol zložité rokovania s izraelskými vodcami o ďalšej podobe palestínskeho štátu. Rozhovory však skrachovali na summite v júli 2000 v Camp Davide a potom vypukla v septembri 2000 druhá palestínska intifáda.
Arafat začal strácať pôdu pod nohami tak v samospráve (nechcel odovzdať právomoci premiérovi, šírili sa správy o rozsiahlej korupcii a obviňovali ho tiež z diktátorských manierov), ako aj v medzinárodnom spoločenstve. Obviňovali ho najmä z toho, že nedostatočne bojuje proti útokom proti Izraelčanom a nedokáže účinne zakročiť proti radikálnym palestínskym skupinám.
Niekedy vystupoval mierne, inokedy menil tón - napríklad ešte tento rok v máji vyzval citátom z koránu svoj ľud, aby "terorizoval svojich nepriateľov": "Nájdite v sebe silu na terorizovanie svojich nepriateľov a nepriateľov Alaha."
Izraelský premiér Ariel Šaron v roku 2001 Arafata označil za "vraha a patologického klamára, ktorý je zodpovedný za smrť tisícov civilistov, pretože jeho stratégia je stratégiou teroru" a prirovnal ho k teroristovi Usámovi bin Ládinovi. V roku 2002 stratil tiež podporu USA najmä po tom, keď v januári Izrael zadržal palestínsku loď s 50 tonami zbraní, o ktorej Arafat vedel (priznal to v liste americkému ministrovi zahraničia Colinovi Powellovi), aj keď to spočiatku popieral. Prezident USA George W. Bush vyzval v júni 2000 na zmenu vo vedení Palestínčanov.
Od decembra 2001 ho Izraelčania blokovali v jeho sídle v Ramalláhu na západnom brehu Jordánu, ktoré sa stalo niekoľkokrát cieľom izraelských útokov, čo mu začalo paradoxne opäť zvyšovať popularitu medzi Palestínčanmi.
"Je zjednocujúcim článkom všetkých Palestínčanov. Ak sa s ním čokoľvek stane, jednota zmizne," vyjadril svoje obavy o ďalší osud mierového procesu palestínsky analytik Alí Džarbáví.