Para tornar sua nova instalação do Java 7 a padrão, execute isso no shell -
> sudo update-alternatives --config java
Para simplesmente usar o Java 7 em seu projeto sem torná-lo o padrão do sistema, vá para Configure Built Path > Libraries > Add Library > JRE System Library > Installed JREs > Add > Standard VM > Directory e selecione o local onde você instalou a JVM.
Altere também o Properties > Java Compiler > Compliance Level a 1,7
Editar:
Para saber a localização da sua execução da JVM -
> sudo find / -name rt.jar
A saída no meu sistema é -
/usr/lib/jvm/jdk1.6.0_37/jre/lib/rt.jar
/usr/lib/jvm/jdk1.7.0_09/jre/lib/rt.jar
Isso me diz que jdk está em /usr/lib/jvm/