Normalmente, uma CPU de baixa potência é aquela que não fica muito quente e, portanto, não requer um ventilador giratório rápido. Então, sim, deveria ser mais silencioso.
Em geral, não é apenas o ventilador da CPU que produz ruído, mas também vários outros componentes que também são adicionados a ele. Enquanto em laptops o mais óbvio é o ventilador da CPU, em desktops a unidade de fonte de alimentação também adiciona muito ruído. Em um laptop, além da ventoinha da CPU, você também deve considerar a ventoinha da placa de vídeo: um laptop com gráficos integrados de baixo custo fará menos ruído do que um com uma GPU discreta e de ponta, já que a segunda terá seu próprio ventilador.
Finalmente, você também deve considerar os discos rígidos, pois eles também podem ser bastante barulhentos. Para um laptop verdadeiramente silencioso, obtenha um com CPU de baixo consumo de energia, gráficos integrados e discos rígidos SSD. Alguns dos Macs mais novos, por exemplo, têm dissipadores de calor tão grandes e dissipam o calor de forma tão eficiente que o ventilador é ligado muito raramente.
Estes sites são muito úteis quando se procura silêncio: