Não parece que você tem o XRender rodando no seu servidor X11 - daí as reclamações do vinho sobre não ser capaz de misturar alfa sem o XRender. Você está usando o servidor VNC X ou está executando um X localmente na placa gráfica virtualizada e conectando-se a ele usando a captura de tela VNC?
Se for o primeiro, a resposta é que o vncserver (também conhecido como Xvnc) por padrão não carrega o XRender. Por causa da maneira que vncserver está configurado (ou seja, não em todos), então todas as extensões que são usadas são compiladas. Se você quiser XRender (e eu acredito que é uma obrigação de você querer executar vinho), então você tem duas opções - recompilar o Xvnc com o XRender, ou usar outro servidor - eu recomendo usar o vnc4server que é uma extensão do VNC para o servidor padrão X.org X11 - você executa um servidor X padrão com a extensão vnc carregada para que você possa carregar qualquer outra extensão no X11 arquivo de configuração padrão (que normalmente inclui o XRender).