Você não pode se conectar apenas com chave pública, você precisa ter uma chave privada também.
Você precisa gerar um par de chaves privada / pública (por exemplo, usando o PuTTYgen) e registrar a chave pública no servidor. Então você usa a chave privada com seu cliente (seja WinSCP, PuTTY ou qualquer outro cliente SSH).
Consulte Guia do WinSCP para autenticação de chave pública .