Citando o projeto xserver-xspice:
A standalone server that is both an X server and a Spice server. Iow, you get a new DISPLAY to launch X clients against, and you can view and interact with them via a spice client.
Por outro lado, x11spice é:
x11spice connects a running X server as a Spice server.
Portanto, a diferença crucial é que com o xserver-xspice, você inicia um novo xserver e, inevitavelmente, uma nova sessão. Com o x11spice você está obtendo uma interface especial para um servidor x existente e uma sessão existente. Por exemplo, parece não haver nenhuma maneira de usar o xserver-xspice para se conectar a uma tela / área de trabalho existente.