Termodinamicamente falando, não acho que a diferença entre as temperaturas seja um bom parâmetro para medir a eficiência do dissipador de calor (e pasta térmica) porque a troca de temperatura entre o cpu e o dissipador de calor é por condução enquanto o dissipador de calor x ambiente é de convecção. Estes são dois processos diferentes com diferentes velocidades e variáveis.
Se você tem uma diferença muito grande entre ambos, isso só pode provar que seu resfriamento é muito eficiente e que a condução entre o cpu e o dissipador de calor será melhorada, porque é impulsionada pela diferença de temperatura das superfícies em contato. Se a diferença for muito pequena, a condução será baixa e o resfriamento não será suficiente. Nenhum dos casos significa que sua pasta térmica não é mais boa.
A única coisa que vai dizer que você precisa verificar a pasta térmica é quando há uma diferença razoável (ou grande) (resfriamento efetivo) e a temperatura da CPU ainda aumenta.