Esta não é uma pergunta idiota, é uma ótima pergunta e eu estou feliz que você esteja perguntando.
Processos humanos
Verifique se você revisou toda a documentação, conversou com os greybeards e assinou com alguém da empresa.
Processos técnicos
Obtenha um backup completo; marque a mídia para arquivamento a longo prazo. Execute um monitor de conexão ou um sniffer de pacote por um período de tempo para ver quais conexões ainda estão sendo feitas. Inspecione os serviços para ver se algo parece importante / familiar.
Cortando o cabo
Melhor idéia do que desligar - desconecte o cabo de rede por alguns dias. Se é uma máquina física antiga, você não quer arriscar a situação em que precisa ligá-la, mas os fusos de disco estão congelados. Deixe-os girando.
Fonte de autoridade - Passei mais de um ano desativando servidores antigos de uma empresa farmacêutica Fortune 25. Este foi o processo e funcionou.