Você pode usar emacs , gedit etc para escrever seu código java e compilar no terminal, se você quiser usar o IDE para java você pode usar eclipse ou netbeans .
A lista de editores é realmente muito longa. Veja Quais IDEs estão disponíveis para o Ubuntu? para saber mais.