O ruído é provavelmente proveniente da sua PSU.
Seu computador não está realmente "desligado" quando está desligado.
Como resultado, há algumas linhas de baixa energia que estão sempre ligadas. Especificamente, o "5v_standby", que é usado para manter uma quantidade de dispositivos operacionais para que seu computador possa se ativar. Isso inclui temporizadores, para que ele possa ser ativado em um agendamento, ou redes, para que ele possa suportar Wake-on-LAN.
O que isto significa é que a sua fonte de alimentação também não pode realmente desligar. Isto significa que há sempre uma pequena quantidade de conversão da rede até as baixas tensões necessárias.
Provavelmente, o que você está ouvindo são os poucos indutores de fontes chaveadas no modo de comutação " bobine whine ". Esse ruído sempre estará presente em seu computador, mas com a CPU principal e os componentes desligados, os ventiladores pararão e o computador ficará realmente silencioso o suficiente para que você ouça.