Os fãs se desgastam com o tempo, e ruídos como esse certamente soam como um fã.
Como se trata de um desktop adequado, com peças reparáveis pelo usuário razoavelmente padrão, há algumas opções.
Se a sua placa-mãe tiver um aplicativo de controle do ventilador, ela poderá ter a opção de ativar a velocidade total dos ventiladores, um por um. Alternadamente, se for suportado, você pode usar algo como o speedfan para fazer o mesmo.
Aumente os fãs, um por um, para 100% e desligue os outros fãs. Ouço. Se você tem sons parados quando um ventilador é parado, esse é o ventilador. Um novo fã é definitivamente vale os poucos dólares que custa (e um bom meio significa ainda mais slience).
Se não for o fã, escute , localize o som e descubra qual é a parte. Você não vai aprender qual é a causa sem abrir os estoques.