Para o Linux, você pode usar as chaves SSH e deixar suas senhas no cofre. Uma chave SSH para todas as pessoas é única. Então você poderia escrever um pequeno script que se conecta ao servidor e escrever as ".authorized_keys" com suas chaves definidas. Então você tem um lugar centralizado onde você pode inserir as chaves e elas são replicadas para todos os servidores.
O PasswortState é legal, mas quando você precisa apenas de uma solução simples, basta um script no linux.
A maneira mais comum quando você tem o Windows Server, você pode usar um domínio. Quando o servidor está no domínio, você pode entrar com o administrador do domínio, então você tem uma conta com uma senha. Mas para o Windows estão aqui pessoas que sabem melhor sobre isso.
Edit: Existe uma ferramenta que é chamada " Alle meine Passwörter " é alemão, mas você pode criar um arquivo em um servidor e as pessoas podem abrir o arquivo e editar. Lá você pode categorizar suas senhas. O arquivo está criptografado.