QoS (Qualidade de Serviço) é o que você está procurando. No seu gateway (roteador VPN / ADSL) você deve ser capaz de priorizar o tráfego.
Se você priorizar outro tráfego (RDP na porta 3389, Web em 80/443, DNS em 53, E-mail em 25/143/110 para smtp / imap / pop, 389 para LDAP e Active Directory etc), a prioridade de o tráfego no SMB diminuirá e, essencialmente, obterá o que sobrou depois que esses outros serviços tiverem sua participação na largura de banda.
Quanto a como você faz isso especificamente em sua configuração - precisaríamos de mais informações sobre sua configuração (roteador faz & modelos, tipo de VPN etc.)