ssh-agent
e algum método de distribuição da chave pública ( authorized_keys
no diretório inicial dos usuários, montado sobre as obras do NFS) é a resposta padrão para sua solicitação.
Para pontos de bônus, você pode considerar o encaminhamento de agentes para passar suas credenciais, se necessário para passar por mais de um nó por algum motivo ...
Como você não deu motivos para que isso não funcione na sua situação, recomendo que você implemente essa solução.