1 GB não é muito para o MS Sql Server - nossa máquina de cluster Sql 2005 usa 3 GB quando está silenciosa e, embora não seja uma startup, não temos uma arquitetura db particularmente exigente.
RAM física de 3 GB não é muito para uma máquina SQL; nossas máquinas de cluster têm 32 GB de RAM e usarão muito isso quando estiverem sob estresse; O Sql Server pode fazer uso de uma grande quantidade de memória física de maneira transitória.
Você pode limitar o uso da memória. No Sql Server Management Studio, clique com o botão direito do mouse no nó do servidor e selecione Propriedades. A memória é a segunda página, e você pode definir um mínimo e máximo lá. Isso é o mesmo no Sql Server 2005 e no Sql Server 2008. Você precisará da função serveradmin ou acima para gerenciar essa configuração, se bem me lembro.