No meu sistema (Ubuntu 10.04.LTS) /usr/lib/jvm/java-1.6.0-openjdk é link simbólico apontado para o diretório /usr/lib/java-6-openjdk .
Em /etc/environments JAVA_HOME refere-se apenas ao link.
Talvez você verifique este link no seu sistema.