Presidenten skrev i forrige måned under en avtale om overføring av makten til landes visepresident. Avtalen innebærer også at Saleh får amnesti og ikke kan straffeforfølges i framtiden.
- En rettssak er nødsvending og amnestiet må forkastes, ropte demonstranter i hovedstaden Sana etter fredagsbønnen.
Også i 18 andre byer over hele landet var det lignende demonstrasjoner, der regimekritikere ropte slagord mot Saleh og krevde at han må stilles for retten og stå til ansvar for drap på hundrevis av demonstranter siden uroen i landet startet i januar.
- Det kan ikke gå ustraffet hen å spille ungdommens blod, sier en imam i Taez, Jemens nest største by.
Maktoverføringsavtalen som Saleh skrev under på, innebar også at opposisjonen i landet fikk delta i en ny samlingsregjering.
Saleh selv har ikke lenger utøvende makt. Han beholder imidlertid presidenttittelen fram til det skal holdes valg i februar.
Kommentarer