Se você puder ler o arquivo na máquina de origem como um usuário comum (em vez de root), considere um pull scp em vez de um push:
serverB:~$ sudo scp user@serverA:/foobar/foo/bar.txt /bar.txt
Se você não conseguir ler o arquivo na máquina de origem, precisará executar as duas etapas descritas. Não há como o sudo funcionar em mais de uma máquina.