O que você está procurando é uma caixa de proteção contra malware, não um honeypot.
Eu recomendaria que a máquina host fosse um sistema operacional diferente do sandbox. Por exemplo, execute o Linux em sua VM e, em seguida, execute o malware em uma instalação do Windows dentro da VM linux. Seria chocante se o malware do Windows infectasse a caixa do Linux.
Na verdade, existe um sistema de código aberto chamado Zero Wine que você pode dar uma olhada.
Seu único objetivo é ajudar as pessoas a analisar malware em um ambiente contido.
Existem alguns produtos comerciais, como o Norman Sandbox Analyzer , que podem ser viáveis bem, dependendo do seu orçamento.