Parece que você está bem ferrada; toda a situação é absolutamente horrível do ponto de vista de TI.
Eu provavelmente faria o meu mais ousado para obter outro servidor, atualizá-lo, instalar o software de banco de dados nele e protegê-lo com as permissões adequadas e obter uma boa rotina de backup para o novo servidor e migrar o antigo banco de dados para o novo sistema.
Para responder à sua pergunta, se você for virtualizar, há um VMWare Converter que pode fazer isso, mas você ainda tem que arriscar problemas fazendo isso. Você também precisa estar ciente de alguns itens de mudança de hardware que ocorrem na conversão e de obtê-los testados, além de fazer concessões para que o banco de dados e o servidor vital fiquem "inativos" durante a transição.
Isso também não corrige os problemas de segurança (como você impede que outro funcionário exclua "acidentalmente" o banco de dados vital?), nem corrige a falta de um problema de rotina de backup adequado ...
Para responder à sua pergunta com mais exatidão, você pode atualizá-la com qualquer um dos vários programas comerciais de backup que geralmente envolvem a execução de algum tipo de programa de agente que saiba como lidar com arquivos abertos. Ele ainda envolverá reinicializações, portanto, há algum risco na descrição do sistema que você forneceu. Você não disse o que este banco de dados estava executando, então não sei se há uma preocupação específica envolvida com a configuração do software.
Eu ficaria tentado a começar agendando uma hora para desligar o servidor e visualizar a unidade inteira a partir de um CD inicializável, usando algo de código aberto (disco de inicialização do Linux e DD para outra mídia ou usando partimage, mas não não há garantia de que estes serão restaurados corretamente para outra unidade sem testá-lo) ou comercial (acronis ou fantasma, por exemplo). Uma vez que você tenha uma imagem da unidade, pelo menos você terá a chance de restaurar ou retirar dados caso seja necessário.
Qualquer que seja esse negócio, se eles estiverem lhe dizendo que os dados e o sistema são absolutamente vitais e necessários, mas permitem que todos os usuários da empresa tenham acesso total aos dados e possivelmente excluam ou danifiquem dados (intencionais ou não) e não há disposições para proteger adequadamente os dados ou apoiá-lo quando você diz que precisa ser feito, então não é absolutamente necessário ou vital. Se eles honestamente acreditam que é e eles o tratam assim, você pode realmente querer considerar isso como uma posição temporária, porque você vai ter uma queda difícil.