No meu sistema (Ubuntu 10.04.LTS) /usr/lib/jvm/java-1.6.0-openjdk
é link simbólico apontado para o diretório /usr/lib/java-6-openjdk
.
Em /etc/environments
JAVA_HOME
refere-se apenas ao link.
Talvez você verifique este link no seu sistema.