É sempre um jogo de gato e rato com software de detecção. Novo malware é criado, os scanners são atualizados para detectá-lo. Há sempre um atraso entre os dois. Existem programas que usam heurísticas que observam o que o software está fazendo e tentam capturar atividades indesejadas, mas, na minha opinião, não é uma solução perfeita e usa recursos.
Meu conselho é simples, não instale software de fontes que você não confia, mas se você for como eu e não puder evitar a tentação, coloque-o em uma máquina virtual (ou seja, virtualbox) e brinque com ele até está confiante de que não vai aborrecer seu sistema ou fazer coisas que você não queria.
Mais uma vez, não é uma solução perfeita, mas, por enquanto, uma máquina virtual tem a melhor chance de isolar sua máquina de indesejáveis.