It is good practice to install multiple server roles in one machine?
Sim, você pode misturar funções (por exemplo, Controlador de Domínio e Autoridade de Certificação são duas que geralmente são mistas). Para alguns você tem que misturar. Por exemplo, não faz sentido instalar a função de balanceamento de carga de rede sem instalar outra coisa (digamos, SQL ou IIS)
If the answer is yes, what server roles can I mix?
Não há lista definitiva, mas o Small Business Server mistura quase TODAS as funções no servidor único. Isso pode não ser recomendado para sua implantação, mas prova que quase todos eles podem ser misturados.
There are some server roles that cannot be mixed, if so, which ones?
Existem alguns que você não deve misturar, como Exchange e Domain Controller.
For the server roles that cannot be mixed. Should I virtualize em (Hyper-V Server 2008 R2) or have them in their own machine?
Virtualizar é ótimo nesse sentido. Se você tiver o Sever 2008, você já tem o Hyper-V e, se estiver executando o Enterprise, você tem direito a 4 instâncias virtuais. Se você não usá-los, eles serão desperdiçados. Mas há uma sobrecarga, então é melhor você se certificar de que seu hardware está à altura dele (especialmente com a RAM).
I'm thinking in buying MS Forefront Treat Management 2010 and MS Exchange 2010 Standard. Should I virtualize them or have em in their own machine?
TMG deve ser físico, mas não há nada que impeça você de torná-lo virtual se seu gateway for baseado em ethernet (ou seja, você não precisa de nenhum hardware especial, pois a passagem pelo hardware é impossível no Hyper-V).
Em relação à troca, ela pode ser virtualmente virtualizada, mas a virtualização depende do número de usuários esperados e do tipo de hardware que você possui.