Você precisa de um agente SSH. No Ubuntu, você provavelmente estava usando o GNOME Keyring. Isso torna bastante fácil adicionar automaticamente sua chave SSH uma vez no login.
Existem outros métodos disponíveis, embora eu não saiba o que está disponível no Debian. Por exemplo, um programa chamado Chaveiro adicionará automaticamente sua chave em cada login sucessivo em um terminal; você só precisa digitar sua senha uma vez.
Finalmente, há o método manual. Depois de abrir um novo TTY ou PTY (ou seja, um terminal ou um emulador de terminal virtual), basta usar o comando ssh-add
para adicionar sua chave e, em seguida, fazer todas as tarefas relacionadas a SSH nesse terminal.