Verifique os logs de erros do Apache. Quando isso mostra: "não é possível conectar ao servidor x", você precisará de um servidor X em execução. Isso pode ser instalado assim (instale uma versão leve de um servidor GUI):
sudo apt-get install xvfb
altere o comando do sistema php para executar o cutycapt neste servidor X:
xvfb-run --server-args="-screen 0, 1280x1200x24" cutycapt --url=http://amazingjokes.com --out=crap/test32443.jpg