O que este programa está fazendo - você sabe o que está usando (mems compartilhadas, exclusões mútuas, talvez arquivos com o mesmo nome e cada instância sobrescrevendo-o, você pode verificar no diretório tmp). Tentou strace ?
Não saiba a escala do seu problema, mas você pode usar o Docker - link para criar contêineres leves ou dar uma olhada no QubesOs para criar ambientes isolados link ou tente usar este programa no ambiente chrooted