NÃO INSTALE O HYPER V NO TOPO DA SBS! VOCÊ IRÁ QUEBRAR COISAS!
Com isso dito, você pode usar o Hyper V em conjunto com o SBS, mas deve instalar o Windows Server Standard no bare metal e ativar somente a função Hyper V nele. Feito isso, crie uma máquina virtual para o SBS e outra máquina virtual para o padrão Windows Server. Essa segunda máquina virtual é onde você deve instalar o TMG (e somente nessa segunda máquina. A instalação no SBS seria um não, pois suporta apenas 1 NIC).
Você precisaria das seguintes licenças (além de CALs) para ser legítimo com isso:
- Microsoft Windows Small Business Server 2011 (padrão ou Essentials, dependendo das suas necessidades)
- Complemento Premium do Microsoft Windows Small Business Server 2011 (que, apesar do equívoco popular, é um complemento do padrão ou do Essentials e não de seu próprio produto)
- Microsoft Threat Management Gateway 2010