O local do arquivo de chave privada é um item de configuração do cliente. Se você quiser fazer isso para alguns usuários, é melhor adicioná-lo ao arquivo /home/username/.ssh/config
:
Host *
IdentityFile /path/to/key.file
Globalmente no sistema, ele pode ser configurado na configuração do cliente SSH em /etc/ssh/ssh_config