Eles podem ser instalados lado a lado, e é isso que eu faria para uma empresa do seu tamanho. Eu fiz isso antes disso. Para mim, não vale a pena a manutenção de um servidor diferente. O que você desejará fazer, no entanto, é limitar a memória usada pelo SQL Server para garantir que o Exchange tenha memória suficiente para usar. Você provavelmente também vai querer colocar discos suficientes no servidor para permitir que o Exchange e o SQL executem o IO independente. Ou seja, volumes separados para o Exchange, SQL Data e SQL Logs no mínimo.
Para definir a memória máxima no SQL, faça o seguinte:
sp_configure 'show advanced options',1
GO
reconfigure
GO
sp_configure 'max server memory (MB)',[some value in MB]
GO
reconfigure
GO
Naturalmente, isso pressupõe que você não esteja executando um banco de dados enorme. Eu também não sou um deus do Exchange por nenhum trecho, então pode haver alguns pensamentos adicionais desses caras.