Qual pasta .ssh você não pode acessar? (Você não será capaz de ver no Cygwin que está no Ubuntu, no entanto você deve poder vê-lo no Ubuntu, do Ubuntu , se é onde ele reside). Se você gerou a chave RSA com puttygen, ela não funcionará com o ssh.exe do Cygwin porque eles usam formatos diferentes para seu arquivo de chave (o putty usa um arquivo com extensão .ppk que é de um formato diferente).
Você pode carregar este arquivo ppk em puttygen e usar Conversions -> Export OpenSSH key
para salvá-lo no formato correto que o ssh.exe pode usar. Se você quiser carregar esse arquivo de chave no Cygwin a partir da sua unidade de disco do Windows, você pode usar o diretório / cygdrive para obter acesso à sua unidade C: (ou outra unidade) onde a chave reside. Você pode então usar -i para apontar o ssh para ele. A outra alternativa é usar o ssh-keygen para gerar uma nova chave para o Cygwin e adicionar isso ao authorized_keys do Ubuntu.
Além disso, o Cygwin ssh é padronizado para o nome de usuário com o qual você efetuou login no Windows como nome de usuário do host remoto, a menos que você o especifique como parte dos argumentos de comando do ssh.
Se ainda não funcionar, eu verificaria o que o ssh estava fazendo adicionando -vvv aos seus argumentos de comando.
ssh -vvvv -i /cygdrive/c/path/to/my/id_dsa -l username host.address.here
(obviamente substituindo os argumentos corretos por -i -l e host.address.here
).