Acabei de aplicar uma correção que vai voltar ao hextile se a cor verdadeira estiver desativada: link
No entanto, observe que isso provavelmente não é o que você deseja. O hextile de 8 bits consome mais largura de banda do que a codificação de cores verdadeiras de 24 bits, e meu palpite é que ele geralmente renderiza mais lentamente.
A abordagem menos hacky é para alguém implementar o modo mapeado em cores de 8 bits para a codificação rígida no noVNC. Infelizmente, não tenho tempo para atacar isso. Alguma demora?