Não acho que haja uma maneira de definir um limite rígido para o uso da RAM. Se você pensar sobre isso, o que o Chrome faria quando atingisse o limite? Fechar páginas? Não permite que você faça mais alguma coisa?
Em vez de um limite rígido, existem maneiras de gerenciar o uso de RAM manualmente. Você pode usar o Gerenciador de Tarefas (Shift + Esc) para encontrar as páginas que mais sugam a RAM e fechá-las. Há também uma função de limpeza oculta que você pode ativar adicionando
--purge-memory-button
como um argumento para o atalho do Chrome. Depois de iniciar com este argumento de linha de comando, você terá um botão Limpar memória no Gerenciador de tarefas que deve liberar a RAM se estiver com pouca carga.
Você pode ler mais sobre essa aqui .