O formato EDID especifica
"byte 38: resolução X, dividido por 8, menos 31 (256 a 2288 pixels, o valor 00 é reservado e não deve ser usado)
byte 39: Razão de pixel X: Y: 00 = 16: 10; 01 = 4: 3; 10 = 5: 4; 11 = 16: 9. "
byte 39 faz sentido (eu deveria configurá-lo para 11), mas quando eu deveria fazer a conversão para hex na codificação do primeiro byte?
(((hex) 1920) / 8)) - 31 ou (hex) ((1920/8) -31)
em que o (hex) é uma alteração no valor hexadecimal.
O hexadecimal não altera o valor, apenas o formato em que o número é escrito.
(((hex)780/(dec)8))-(dec)31
e
(((dec)1920/(dec)8))-(dec)31
são equivalentes e ambos são avaliados em 0xD1 (hex) ou 209 (decimal).
Na verdade, é o byte 39, que é ambíguo na sua pergunta, porque você não especificou se 16:9 é 11 em decimal ou hex (embora eu suspeite que seja 11 em hexadecimal)
Tags resolution linux hexadecimal edid