Depende claramente de qual versão do Java você deseja desenvolver. Por favor, veja este link para as diferenças entre Java 6 e Java 7. Alguns sites sugerem java 6 porque é considerado mais estável do que 7. Por favor, note que qualquer coisa que você pode fazer com o java versão 6, você pode fazer com 7 também.
Se eu estivesse no seu lugar, eu usaria o OpenJDK 7, mas não deixe de baixar o SDK e não o tempo de execução se quiser fazer o desenvolvimento de software com. Eu não sei se é 100% compatível com a versão Oracle do Java, mas deve ser o suficiente para cobrir a maioria das necessidades do desenvolvedor.