Existem muitas maneiras de fazer isso.
1) você pode fazer isso diretamente agindo no seu programa. Por exemplo, com ProFTPd , insira esta linha
TransferRate RETR,STOR,APPE,STOU 1000
no arquivo /etc/proftpd.conf. Isso limitará a largura de banda a 1000 kB / s. O mesmo não pode ser feito com ssh , o que sempre foi feito para sessões interativas, não para downloads em segundo plano.
2) Você pode usar tc (= Controle de Tráfego, apropriadamente). Eu tenho pouca experiência com isso, posso apenas apontar-lhe esta boa Introdução ao tópico. Eu acho esta solução muito ad hoc para o meu gosto, e muito difícil de portar, mas é claro que você pode diferir, então dê uma olhada nisso.
3) Você pode usar o QoS (= Quality of Service) no seu roteador. Você terá que encontrar uma QoS de voz na sua GUI e ver os detalhes. Ele permitirá que você defina limites dependendo do endereço MAC ou do aplicativo (você pode definir um novo aplicativo como desejar, se o que você quer limitar ainda não estiver na lista), mas não os dois simultaneamente. Isso significa que se você acelerar o ftp dessa maneira, ele será acelerado para todos os PCs em sua LAN. Se você quiser fugir dessa restrição, você terá que configurar uma VLAN ou uma DMZ (que pode ser uma boa idéia de qualquer maneira, em termos de segurança), na qual você coloca apenas o seu servidor.
Como sempre, YMMV.