Tente isso para automatizar os recursos do servidor sem cabeçalho. (Caveat, eu escrevi o post abaixo)
Resumo básico é que eu fiz um script para executar qualquer comando dentro de um servidor X sem cabeça recém-criado. Isso também permite que você execute muitos servidores X sem cabeçalho de cada vez, se precisar.
Então, para iniciar o selenium-rc em um novo servidor X sem cabeça, você faria (usando a ferramenta descrita no post acima)
sh ephemeral-x.sh -x "Xvfb -ac -screen 0 1024x768x24" java -jar selenium-server.jar ...