Presumo que o problema esteja relacionado a como a placa gráfica ou o driver lida com as trocas de tela. De sua descrição, parece não estar lidando tão bem com isso. Por padrão, o UAC no Vista fará uma troca de tela para a "área de trabalho segura" quando solicitar consentimento. É possível desativar o comutador seguro da área de trabalho, enquanto ainda estiver com o UAC ativado.
Você deseja alterar a configuração PromptOnSecureDesktop para 0. O Editor de políticas locais pode alterar isso, mas isso só está disponível no Vista Business ou "melhor". No entanto, a configuração do registro pode ser alterada independentemente do sabor do Vista.
Use este script de registro:
Windows Registry Editor Version 5.00
[HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies\System]
"PromptOnSecureDesktop"=dword:00000000
Salve isso em um arquivo com extensão .REG e clique duas vezes nele, o que fará com que o Editor do Registro aplique a configuração.
O efeito deve ficar imediatamente ativo, sem ter que reinicializar ou fazer logoff.