Embora seja possível manter a conexão aberta, a melhor maneira de fazer isso é provavelmente usar a autenticação de chave pública, o que evita a necessidade de digitar repetidamente uma senha.
Assumindo que as máquinas locais e remotas estão executando o linux:
user@local $ cat .ssh/id_rsa.pub | ssh user@remote 'cat >> .ssh/authorized_keys'
Incluirá a chave SSH da máquina local na lista de usuários pré-aprovados da máquina remota e os comandos ssh
ou scp
subsequentes não deverão exigir uma senha.
Se ainda for solicitada uma senha, talvez seja necessário fazer
user@remote $ chmod 400 .ssh/authorized_keys