O WSUS 3.0 instalará o Banco de Dados Interno do Windows local para você se uma versão compatível do SQL Server ainda não estiver instalada. Se você planeja usar um banco de dados completo do SQL Server, deve usar (no mínimo) o SQL Server 2005 SP1 no Windows Server 2003 ou o SQL Server 2005 SP2 no Windows Server 2008.
Instalei o WSUS e o SQL Server muitas vezes no mesmo servidor antes e nunca tive problemas.
O Banco de Dados Interno não apresenta nenhum problema com outra instância do SQL Server no mesmo servidor que eu saiba.