Em resumo, você quer algo como
xrandr --output LVDS --scale 1.28x1.28
(substituindo LVDS pelo nome de saída desejado, como visto na saída de executar xrandr por si mesmo).
Experimente. Alguns sites disseram que isso não funciona em alguns sistemas que estão usando o KMS (configuração do modo kernel); se assim for, isso é um bug que esperamos ser corrigido. Veja estes links para mais informações sobre como usar xrandr para escalar uma tela como esta: