Conexões simultâneas geralmente se referem ao número de endereços IP específicos que estão enviando / recebendo tráfego através do firewall. Ou seja, 1 PC com 3 navegadores abertos, executando o Skype e jogando TF2 contará como 1 conexão simultânea. 20 PCs fazendo a mesma coisa contam como 20.
Taxa de transferência refere-se à quantidade agregada de largura de banda usada por TODAS as conexões. Portanto, se você tiver um PC usando 10 Mbps de largura de banda e seu dispositivo oferecer suporte a um máximo de 5 Mbps, você será limitado. Se você tem 2 PCs, usando 20Mbps de largura de banda, e o roteador suporta taxa de transferência de 200Mbps, você estará bem.
Como regra geral sobre taxa de transferência, observe a largura de banda que você recebe do seu provedor de serviços de Internet. Se você tem 3 T1s (4.5Mbps para cima / baixo), então, contanto que o roteador consiga lidar com mais taxa de transferência, você está bem. Eu suspeito que, uma vez que você está fazendo essa pergunta, você não está na faixa de centenas de Mbps, onde a taxa de transferência realmente se torna um problema.
EDITAR: Como o SpacemanSpiff observou abaixo, a taxa de transferência máxima do dispositivo pode ser afetada por recursos no dispositivo. Os túneis VPN têm sobrecarga de criptografia e, portanto, podem suportar menos throughput do que o dispositivo como um todo. A inspeção de pacotes (por exemplo, varredura de vírus, etc.) também pode reduzir a taxa de transferência. Portanto, se você tiver um firewall com a verificação de vírus ativada, ele poderá suportar um máximo de 40 Mbps em vez de seus usuais 50 Mbps.