Você pode definir essa configuração "manualmente" adicionando um valor REG_DWORD chamado "VDMDisallowed", definido como "1", em "HKEY_LOCAL_MACHINE \ Software \ Policies \ Microsoft \ Windows \ AppCompat". Eu apenas script usando o comando REG para defini-lo:
REG ADD HKLM\Software\Policies\Microsoft\Windows\AppCompat /t REG_DWORD /v VDMDisallowed /d 1