Eu usei dois métodos:
1) Wiki Somos um usuário corporativo do Google Apps e usamos o recurso "Sites" como nosso wiki. Bloqueado para que apenas os usuários do domínio possam vê-lo, é claro (você pode ser ainda mais específico se necessário).
Cada servidor tem duas páginas no wiki. Uma página para especificações, uso e notas chave e uma página é o log de atividades. O log é uma tabela de data, hora, tarefa e um indicador de reinicialização. Idealmente, nada acontece que não seja registrado!
Nota: o recurso "sites" do Google torna as páginas de registro muito fáceis de criar usando o modelo "Lista".
2) WhatsUp Pro
Eu uso o WhatsUp para monitorar meus servidores e dispositivos. Onde foi útil, adicionei informações importantes ("lembre-se de iniciar o serviço x" ou "certifique-se de que a interface A aparece") no campo de notas de formulário livre para o dispositivo. Então, quando o cara de plantão recebe uma mensagem (via SMS), o texto inclui essas notas. Muito útil para ter.