O CLR hospedado no pool de aplicativos para o aplicativo da Web armazenará a quantidade de memória necessária e, em seguida, com base na demanda de memória, usará a coleta de lixo conforme necessário para liberar memória.
Você pode limitar a quantidade de memória acessível a um pool de aplicativos (na interface do usuário, por meio da caixa de diálogo Configurações avançadas ou do PowerShell e do módulo WebAdministration).
Você pode querer verificar se já existem limites definidos para a memória no pool de aplicativos, mas realmente não há uma maneira de dedicar mais memória diretamente a um pool de aplicativos sem editar o machine.config para a versão .NET. o aplicativo é executado em.
EDIT: A configuração automática padrão para limites de memória no IIS 7 é de 60% da RAM das máquinas. Isso pode ser aumentado manualmente editando o arquivo machine.config para a versão .NET na qual seu aplicativo é executado. Detalhes das várias configurações aqui.