PuTTY é um cliente SSH, e a chave pública dada a você é especificamente para autenticação em um servidor SSH. Então você não registra a chave com um sistema operacional; você o registra com o servidor SSH.
No Linux, ~/.ssh/authorized_keys
é lido pelo serviço OpenSSH - mas no Windows, você não tem um servidor SSH e terá que instalar um . Tanto o Bitvise WinSSHd como o Cygwin OpenSSH são boas opções.