No lado do Windows você pode acessar os arquivos de:
%localappdata%\lxss
No lado do Linux:
/mnt/c/
Server SSH keys estaria assim em:
C:\Users\{user}\AppData\Local\lxss\rootfs\etc\ssh
e chaves SSH do usuário em:
C:\Users\{user}\AppData\Local\lxss\home\{username}\.ssh
Onde {user} é seu nome de usuário do Windows e {username} é seu nome de usuário UNIX definido durante a instalação.
PS. Não tente excluir ou criar arquivos no Explorer no local do lxss, ou seja, REALMENTE não aconselhado .
[editar] PPS. Ótimo tutorial no link