Você pode usar rsync com a opção --append ou --append-verify . Consulte a página do manual rsync (1) para obter detalhes.
Nota: mesmo sem --append ou --append-verify , rsync será muito mais eficiente que scp (mas, como seus dados são realmente grandes, você pode precisar de uma dessas opções de qualquer maneira).