Você precisa preencher o arquivo ~/.ssh/authorized_keys
no Host B com as chaves públicas de todos os usuários que deseja ter acesso à conta compartilhada. Apenas o cliente precisa da chave privada do usuário. O servidor só precisa conhecer as chaves públicas que podem se conectar a uma determinada conta.
Raramente é necessário que os usuários compartilhem chaves privadas (a conhecida chave privada Vagrant é uma exceção ilustrativa) ou colocar as chaves particulares dos usuários no servidor. Cada chave privada deve ser exclusiva para cada usuário e deve permanecer em sua máquina cliente. Mesmo se você desconsiderar essa prática recomendada, ainda não precisará colocar a chave privada do usuário compartilhado no servidor; você só precisa distribuir uma cópia da chave privada para cada usuário que usará essa chave para se conectar à conta compartilhada.