Aqui, para o trabalho diário, temos a autenticação Kerberos, por exemplo, é muito útil se você quiser fazer o log como root com um arquivo .k5login em / root.
Claro que se o keytab ou algum outro problema ocorrer, temos um arquivo criptografado com GPG em um repositório SVN. Mas se as suas senhas root estiverem sendo alteradas automaticamente de forma automática, um arquivo GPG pode não ser suficiente.
Me deparei SFLVault no outro dia; Eu não testei ainda, mas parece ser uma ferramenta bastante poderosa. Vale a pena dar uma chance
Espero que ajude:)