Parece que não pode ser consertado. 1080 não é divisível por 16.
veja: link
RecordMyDesktop aplica as duas coordenadas do deslocamento da área gravada divisível por 2, e do seu tamanho a ser divisível por 16. Estes restrições não são documentadas. De acordo com comentários no código, eles vem de restrições MIT-SHM.