Você deve usar:
pip install ply
Veja como instalar a partir do pip .
Opip na verdade faz o download e instala o pacote e suas dependências, assim você não precisa baixar o arquivo separadamente.
A outra opção seria o download ply (ou qualquer outro pacote) e instalá-lo você mesmo. No meu sistema foi instalado em:
/usr/local/lib/python2.7/dist-packages/ply