Não há garantia de que o monitor e a placa-mãe são compatíveis - não há padrões comuns quando se trata de painéis LCD, eles tendem a variar em formatação de cores, número de faixas, etc.
Olhando para a folha de dados, parece que sua tela é uma versão colorida de 18 bits. As cores não são divididas em faixas (ou seja, não há uma faixa para vermelho, uma para verde e outra para azul), mas são intercaladas em um formato estranho. Este é provavelmente o local onde você está tendo problemas.
Se eu tivesse que arriscar um palpite, as opções de 24 bits e 48 bits são projetadas para telas com cores de 24 bits e uma pista por cor. O 48bit é provavelmente representativo do uso de 6 pistas (ímpar / par), enquanto o 24bit usará 3 pistas.
Em ambos os casos, a formatação de cor provavelmente não corresponde ao que sua exibição está esperando e, portanto, você obtém um sangramento estranho entre as cores. Meu palpite é que quando você faz as cores sólidas, o que você está vendo não são blocos vermelhos / verdes / azuis puros, o que você pode provavelmente confirmar tirando uma foto macro dos pixels (por exemplo, você provavelmente verá o verde mal iluminado por sua barra vermelha).
Você pode ver na lista que existem algumas opções para 18 bits, que provavelmente usarão apenas as faixas ímpares com as cores intercaladas corretamente. Aparentemente, não há opções para 36 bits, que é o que seu monitor exigirá (18 bits em faixas ímpares / pares).
A menos que a Gigabyte tenha ou libere uma atualização de firmware para suportar sua exibição, infelizmente você está sem sorte. Tente encontrar um painel LCD de 24 bits em vez de um painel de 18 bits.
É claro que isso é apenas especulação, mas eu tive alguma experiência com os conectores VGA incorporados em placas Mini ITX com cores estranhas, dependendo das configurações e da exibição.