Se o seu kernel suporta o controlador de memória cgroup v1 e está habilitado (até onde eu sei que todas as principais distribuições do Linux o habilitaram), você deve ser capaz de usar o valor root memory.max_usage_in_bytes
para isso:
echo "$(("$(cat /sys/fs/cgroup/memory/memory.max_usage_in_bytes)" / 2**20)) MB"