Então, depois de algumas horas procurando por uma resposta, encontrei algumas outras pessoas experimentando o mesmo problema. É relacionado ao software.
Primeiro, a Apple: link
Em segundo lugar, de um software de terceiros que acabou resolvendo o problema: link
Since the late 2009 iMacs came out, replacing the hard drive has caused the internal Hard Drive Fan to start running at around 6000RPM.
This is due to Apple replacing the external Hard Drive temperature sensor with a proprietary firmware and using the drives internal sensor.
Em terceiro lugar, um software gratuito que também pode corrigir problemas de outras pessoas: link
Acabei comprando o "HDD Fan Control", pois ele funcionava imediatamente e não aceitava nenhuma configuração como "smcFanControl". Parece que usar o SMART é um bom substituto para o firmware especial da Apple
Espero que isso ajude outras pessoas que estão ouvindo muito barulho do ventilador depois de substituir o disco rígido.