O Gerenciador de Recursos do Sistema do Windows é exatamente o que você deseja. Na página de technet vinculada a :
Manage system resources (processor and memory) with preconfigured policies, or create custom policies that allocate resources per process, per user, per Remote Desktop Services session, or per Internet Information Services (IIS) application pool.
A configuração dessas políticas exige um pouco de sutileza e um ótimo toque, mas não é algo que você acabou de instalar e esquecer. Sugiro que você continue lendo os artigos da Technet e configure um ambiente de teste para testá-lo.