Parece que o design original estava completamente errado. Seria muito mais limpo ligar o servidor sshd em cada máquina virtual com
AllowAgentForwarding yes
E, em seguida, ssh em cada VM. Dessa forma, todas as VMs usariam automaticamente o agente de autenticação do host sem precisar ter nenhuma chave ssh instalada.