Você pode teoricamente fazer as duas coisas, mas cada uma tem suas vantagens e desvantagens:
Você pode criar apenas uma chave, digamos, "sua" (como pessoa), protegê-la em algum lugar e copiá-la para qualquer computador que você usar. A vantagem é que você pode se conectar a A de onde quer que vá, desde que possua sua chave privada SSH. A desvantagem é que, contanto que você copie sua chave privada de um lugar para outro, seja qual for o caminho, você aumenta o risco de ser lido por alguém que esteja ouvindo a conexão. Pior, se o computador C for roubado, você terá que gerar novamente uma nova chave em todos os computadores que usam essa chave e distribuir uma nova.
Por outro lado, usar 1 chave por usuário @ computador tem a vantagem de mais "controle fino" sobre "o que" pode conectar "onde". É a maneira mais comum de fazer.
Se, por exemplo, você fornecesse o computador C a seu irmão / irmã / esposa / marido / amigo / cão ou a um ladrão (sem sua aprovação), você teria apenas que remover a chave de A's '' arquivo authorized_keys '.
Portanto, mesmo que isso signifique "mais chaves em authorized_keys", sugiro a segunda abordagem.