Descobri que meu aplicativo estava desmapeando e remapeando os visuais de 10 bpc (RGB10_A2) durante uma operação de layout de tabela, o que fazia com que o driver alternasse entre os modos de 8 e 10 bits repetidamente. Foi fácil resolver o problema simplesmente criando uma pequena janela de 10 bpc e mantendo-a mapeada durante a vida útil do aplicativo.