Procurando na Web referências à sua mensagem de erro, não encontrei nenhuma solução óbvia, mas acho que pode ser que o pacote RealVNC não seja compatível com as bibliotecas X usadas no Fedora 11. Eu recomendaria Desinstalando o RealVNC e experimentando o TigerVNC (instalado via yum), já que ele terá sido testado para ser compatível com o Fedora 11.