As configurações de compatibilidade são encontradas no registro, aqui
HKEY_CURRENT_USER\Software\Microsoft\Windows NT\CurrentVersion\AppCompatFlags\Layers
Você pode iniciar o regedit ou regedt32 (procure por ele no menu iniciar) e verifique se todos os seus aplicativos estão presentes aqui. Você pode então excluir alguns, para ver se eles começam a trabalhar novamente.
Seu problema pode ser causado por alguma ferramenta ou aplicativo que você está usando (ou mesmo por malware), portanto, essa correção está tratando apenas os sintomas, não a causa.