Para diagnosticar isso corretamente, precisamos de mais informações.
O SQL Server é como qualquer outro processo do Windows; Seu espaço de endereçamento virtual pode ser muito maior que a RAM física. Ele pode até ser maior que os arquivos de paginação de RAM +, se qualquer parte dele usar arquivos mapeados na memória.
O parâmetro de ajuste no SQL Server é uma maneira de dizer que nunca use mais que 'x' MB. Você tem que olhar para a carga máxima de confirmação de todos os outros serviços na caixa, subtrair isso da sua figura RAM física e, em seguida, dar o restante para o SQL Server. Tanto quanto eu saiba, o limite de memória só se aplica ao RDBMS, não ao zoológico de serviços de servidor SQL relacionados. Eu posso estar errado aqui.
Então, precisaríamos de mais números para os processos restantes. Por exemplo, você tem um processo de trabalho do IIS consumindo 273 MB; existe apenas um processo de trabalho? Você tem antivírus ou software de backup instalado?
Você pode usar o WSRM para analisar o que está acontecendo e, em seguida, considerar a aplicação de limites de memória. Alternativamente, e seria minha recomendação, instale mais RAM.
Para obter uma visão gráfica de onde sua memória está indo, dê uma olhada no utilitário RAMMap da Microsoft SysInternals.