Você menciona em sua pergunta que está usando um VPS. Que tipo de VPS? Parece que você está em um VPS OpenVZ. Se for OpenVZ, ele está compartilhando o kernel entre muitos contêineres como o seu e você não pode alterar a configuração do kernel por contêiner, mas diretamente no host. Na verdade, eu construo um contêiner de cents OpenVZ cents e tentei aplicar a configuração de kernel net.bridge.bridge-nf-call-ip6tables = 0
seguida de sysctl -p
e recebi o mesmo erro que você. Se você realmente precisar, isso significa que você pode ter que pensar em alterar o tipo de virtualização que está usando ou tentar entrar em contato com seu provedor de VPS e pedir a ele para ativar essa configuração.
Melhor.