Esta configuração deve ser um bom começo:
Edite: Além disso, lembre-se de que limitar a quantidade de RAM que o SQL pode usar economizará memória para outros aplicativos, outras instâncias e o próprio SO ... mas limitando a quantidade de RAM permitido ao SQL use, você pode simplesmente atingir a parede de desempenho mais rapidamente. O SQL iniciará a paginação de dados para o disco quando ele ficar sem RAM, independentemente de você estar colocando um limite rígido na quantidade de RAM que o SQL tem permissão para usar ou não. Se você quiser desempenho, você quer evitar ter que usar os discos do computador. Isso significa adicionar mais RAM, usando instâncias de 64 bits para que eles possam aproveitar a RAM extra e ter índices e consultas mais eficientes. Você já disse que não pode fazer os dois primeiros - a próxima coisa seria encontrar um DBA para tentar otimizar seus dados e consultas para que eles não usem tanta memória.