É muito mais fácil para o Blacklist do que para o Whitelist. Muito provavelmente você tem uma ideia do que você não quer que os usuários executem. A maneira como o Windows lida com isso é por meio das Políticas de Restrição de Software em seu GPO. As Políticas de Restrição de Software podem ser usadas para permitir que o software rode e negue-o. Há quatro métodos diferentes disponíveis para uso e são: Regras de hash, Regras de certificado, Regras de caminho e Regras de zona da Internet.
As regras de Regras de hash usam um hash MD5 ou SHA-1 de um arquivo em sua correspondência. Isso pode ser uma batalha difícil. Tentar bloquear algo como pwdump usando apenas uma regra hash resultará em MUITAS entradas, para cada versão diferente do pwdump. E quando uma nova versão for lançada, você precisará adicionar isso também.
As regras de caminho são baseadas na localização do arquivo no sistema de arquivos. Então, você pode restringir "\ program files \ aol \ aim.exe", por exemplo, mas se o usuário optar por instalá-lo em "\ myapps \ aol \ aim.exe", ele será permitido. Você pode usar curingas para cobrir mais diretórios. Também é possível usar o caminho do registro se o software tiver uma entrada de registro, mas você não souber onde ela será instalada.
As regras de certificado são úteis para software que inclui um certificado. O que significa principalmente software comercial. Você pode criar uma lista de Certs que podem ser executados em seus sistemas e negar todo o resto.
As regras da zona da Internet aplicam-se apenas aos pacotes do Windows Installer. Eu nunca usei isso, então não posso comentar muito sobre isso.
Um GPO adequado usará várias dessas regras para cobrir tudo. A restrição de software exige que você realmente pense no que deseja evitar para acertar. Mesmo assim, provavelmente ainda não está certo. A Technet tem alguns bons artigos sobre o uso de Políticas de Restrição de Software, e tenho certeza de que existem outros bons documentos no site da Microsoft encontrados através de seu mecanismo de busca favorito.
Boa sorte!