(Esta não é uma resposta real, mais um monte de sugestões - mas é também muito tempo para caber em um comentário.)
O comando xdpyinfo fornece uma lista de recursos do servidor X, incluindo a lista de todos os extensões e visuais; você poderia começar comparando isso.
No entanto, sua sugestão de reativar o BackingStore corrige o problema me faz suspeitar que este é um problema do cliente: que o cliente faz alguma suposição errada sobre o funcionamento do X11, ou de alguma forma viola o ICCCM (Java é notório por isso) e, portanto, é quebrado por um novo versão do X11 que mudou alguns padrões ...
Duas soluções alternativas:
-
Execute x11vnc no nó onde o aplicativo reside e, em seguida, conectar-se a isso através do VNC dos hosts mais recentes; você pode dimensionar o x11vnc tela de forma adequada para reduzir o consumo de largura de banda.
-
Execute o Xnest nos nós mais recentes e deixe que o aplicativo problemático conecte ao monitor Xnest; você deve ser capaz de compilar um versão do Xnest com idade suficiente para ser compatível com a aplicação.