Mas você tem certeza de que o OpenJDK está instalado? Não esqueça que existem 2 pacotes diferentes. JRE, que é o ambiente de tempo de execução java. Isso permitirá que você execute aplicativos java, mas não compile. Para compilar, você precisará instalar o JDK, o kit de desenvolvimento java. No Ubuntu há o openjdk-7-jdk e o openjdk-7-jre. Certifique-se de ter ambos instalados.