O destino de aplicativos .NET 3.5 SP1 precisa do .NET 3.5 SP1 instalado. O .NET 3.5 SP1, por padrão, instala o .NET 2 e o .NET 3.0. Basicamente, a versão base do CLR é .NET 2. O .NET 4 é uma nova versão do CLR. Portanto, as aplicações que visam o .NET 4 necessitarão do .NET 4 instalado e os aplicativos que visam versões mais antigas não mudarão para o .NET 4 sem recompilar.