O problema foi que a memória virtual foi configurada em uma unidade de spool de impressão. Mudei o arquivo de troca para um disco físico separado e tudo começou a funcionar bem.
É um Dell PE 2900 com Windows Server 2003 padrão de 64 bits, todas as atualizações do Windows aplicadas.
CPU e rede estão sempre abaixo de dez por cento. Apenas o Helios (compartilhamento de arquivos) e o SQL Server 2005 em execução. Oito discos rígidos Sata de 250 GB com um controlador Perc 6, RAID 5, uma partição e são lidos apenas para os usuários.
Alguma idéia?