Configurações do monitor
Você disse que já recebeu xrandr para exibir em uma parte menor da tela, mas que ela está centralizada. Se houver alguma maneira nas configurações do seu monitor para mover a parte exibida para a borda esquerda da tela, então você está pronto.
Servidores X aninhados
Teste Xephyr ou Xnest . Eles permitem que você execute um servidor X dentro de outro servidor X. Então, algo assim pode funcionar:
Xephyr -screen 1200x1080 :1
Defina a resolução para qualquer área visível que você tenha em sua tela. Então você tem um servidor X que ocupa apenas uma parte da tela.
Para o seu primeiro servidor X, talvez não seja necessário executar um gerenciador de janelas, se você puder obter o .xinitrc para iniciar o Xephyr no tamanho e local corretos na tela. Xephyr -geometry 800x600+0+0 não funciona para mim.
Você precisará executar um gerenciador de janelas / ambiente de área de trabalho dentro do Xephyr. Eu não sei a melhor maneira de fazer isso no momento.
Fazendo seu gerenciador de janelas evitar parte da tela
Essa é uma correção feia, mas você pode criar um painel grande sem nada que cubra a parte morta da tela. Defina o painel para que nenhuma janela possa abranger. Isso não ajudará se um programa (como um player de vídeo) tentar desenhar na tela inteira.
Referência
Pergunta sobre estouro de pilha: X em uma janela em X