Eu acredito que todos os plugins vão para a pasta .eclipse / plugins em seu diretório home. Então ...
sudo apt-get purge eclipse
rm -r ~/.eclipse/
deve removê-lo completamente do seu sistema. Eu não tentei, pois não quero perder minha instalação:)
Você deve ser capaz de obter PHP e jQuery usando o Aptana Studio. Consegui que o 1.5 funcionasse como um repositório (em Ajuda > Instalar novo software) usando o link e um Google pesquisa, mas eu não tentei instalar o 2.0 que você pode obter a partir daqui: link