Como regra geral, não, isso não deixará seu computador em silêncio. Em geral, a menos que você esteja lidando com discos rígidos corporativos de 15k RPM, seus fãs serão mais barulhentos do que o seu disco rígido (se você não tiver fãs e tiver uma fonte de alimentação que não faça barulho os mais baratos), pode tornar o sistema silencioso, além do teclado e do mouse).
Um SSD provavelmente reduzirá o ruído produzido pelo seu sistema e provavelmente será um bom investimento por outros motivos também (isso reduzirá seu consumo de energia e provavelmente acelerará o seu sistema).