Você pode descobrir que apenas configurar o caminho do soquete não funciona. O Memcached descarta privilégios antes de criar seu soquete, apesar de ter escrito seu PID. É comum colocar o socket em /var/run (por exemplo, como o mysql faz), mas somente o root pode escrever lá, então crie /var/run/memcached e use-o para ninguém, então defina /var/run/memcached/memcached.sock como o caminho do socket. Escrevê-lo para /tmp também funcionaria, mas por sua própria natureza que poderia ser destruído; colá-lo em /var/run é um pouco mais permanente.
Você pode verificar se está funcionando usando o netcat para se conectar a ele:
nc -U /var/run/memcached/memcached.sock
Basta digitar stats no prompt em branco; se estiver funcionando, você terá uma carga de saída.