Você terá 50 de cada conexão, pois iptables tratará apenas de ipv4 e ip6tables lidará com conexões ipv6. Eles não "somam", porque são gerenciados por ferramentas diferentes em cada versão do protocolo.
nftables , o "novo firewall" será capaz de lidar com os dois protocolos resumindo tudo? Não. Você terá a "mesma ferramenta" ( nft binary) para lidar com os protocolos de forma independente usando a palavra-chave rule : nft add rule ip6 ... e nft add rule ip ...
Como apontado nos comentários, o > nft_connlimit foi adicionada recentemente ao Linux 4.18, permitindo que você conte a soma ipv4 e ipv6 se você usar a palavra reservada inet enquanto cria regras.
Itens relacionados: