Parece que o Handbrake é muito intensivo em CPU, que procura por "Handbrake causando altas temperaturas", parece ser um problema comum. A conversão é uma tarefa muito intensa. Eu não pensei sobre isso sendo apenas um problema no freio de mão, até seu 2º ao último comentário.
Pesquise por aí, mas provavelmente a melhor coisa que eu faria seria "definir a afinidade" no Windows para não usar todos os núcleos para executar a tarefa. Ainda assim, levaria mais tempo para fazer a conversão, mas eu acho que você não teria tanto aumentos de temperatura se estivesse usando apenas 4 núcleos em vez de 8.
Para definir a afinidade de um processo, vá para o gerenciador de tarefas e a guia Processos. Encontre o processo para handbrake, handbrake.exe (baixado do HB, mas não tem nada para converter), clique com o botão direito no processo e escolha "Set Affinity ...". Então você terá uma lista de check-boxes para cada núcleo / thread que o processo vai usar. No entanto, parece que handbrake.exe lança um handbrakecli.exe para quando uma conversão acontece, mas a afinidade que você definir para handbrake.exe deve fluir para baixo para o handbrakecli.exe.
Você seria capaz de saber observando o uso da CPU ao fazer uma conversão e não deve notar um aumento tão grande nas temperaturas da CPU.
Eu usaria metade e verificaria o desempenho em termos de temperatura e velocidade de conversão.
Um cooler de pós-venda, pode ajudar alguns graus, mas eu me atrevo a dizer que vai de 36C sem carga para 60C sob conversão, pode te render um par de graus, mas eu não posso dizer com certeza.
Se eu fizesse muita conversão de vídeo, eu obteria um cooler de pós-venda, provavelmente.
Espero que ajude.