O que você chama de sistema de janelas é mais comumente chamado de servidor de exibição .
As diferenças entre os servidores de exibição estão bem documentadas. Mas, a diferença entre um servidor de exibição e um gerenciador de janelas está no trabalho que eles executam. Um servidor de exibição manipula a exibição de aplicativos gráficos e a retransmissão de entrada e saída de aplicativos gráficos para o restante do sistema e vice-versa.
Por outro lado, o trabalho de um gerenciador de janelas é gerenciar como (ou mais frequentemente, onde) o servidor de exibição exibe suas janelas do cliente.
Como resultado, quase ninguém usa um servidor de exibição sem usar um gerenciador de janelas de algum tipo (embora seja possível). Você pode simplesmente pensar dessa relação da seguinte forma: O servidor de exibição exibe tudo o que é gráfico, e o gerenciador de janelas organiza as janelas do cliente para exibição pelo servidor de exibição.