O arquivo authorized_keys é composto pelas chaves públicas dos usuários com permissão de acesso remoto a essa conta no sistema.
Em geral, você tem um conjunto de chaves para cada conta de usuário, em cada sistema. A chave privada é mantida apenas no sistema em que foi criada e a chave pública é copiada para outros sistemas. No caso do SSH, a chave pública é copiada para o arquivo authorized_keys da sua conta em um sistema remoto. O uso de chaves pode ser mais conveniente e mais seguro do que depender de senhas para acesso SSH.
Imagine que você está configurando um servidor remoto, que você e várias outras pessoas irão operar, através de uma conta compartilhada nesse servidor. Você copia a chave pública do sistema local e as chaves públicas das outras pessoas para o arquivo authorized_keys desse sistema remoto. Isso permitirá que todos vocês acessem o servidor remoto através de chaves, assim que ele estiver configurado. Se você estivesse configurando muitos servidores idênticos, poderia simplesmente copiar o mesmo arquivo authorized_keys para cada um deles. Se alguém deixar a equipe, você pode simplesmente remover sua chave pública do arquivo authorized_keys e eles não devem mais ter acesso a esse sistema.
Veja algumas informações mais gerais sobre o SSH: