Não consegui identificar a causa desse problema, mas aqui está uma solução:
Basta clonar o repositório para uma nova cópia:
git clone old-repo new-repo
cd old-repo
git remote get-url origin # Copy this URL
cd ../new-repo
git remote set-url [paste URL from old-repo]
Ou seja, clonei uma nova cópia do repositório e dei à sua 'origem' o mesmo URL do repositório antigo. Ao empurrar e puxar etc. no novo repositório, ssh
não pedirá mais senha e aparentemente usará minha chave ssh como eu gostaria.