Eu não sou usuário do IntelliJ, mas uso o PyCharm todos os dias. Os IDEs do JetBrains não funcionam (e eles não são suportados) no OpenJDK 6. Eles são realmente lentos e apresentam alguns problemas visuais quando usados com ele.
É bem possível que seu projeto também não funcione no OpenJDK, quero dizer que este não é um problema de IDE, mas algum problema em seu próprio projeto.
O PyCharm, 2.0 pelo menos, e provavelmente o IntellJ, funciona muito bem no OpenJDK 7, mas ainda não é suportado (ele também não suporta o Oracle Java 7). Observe que isso significa que não há suporte para executar o IDE nessas VMs, e não que você programa com essas VMs, pois os destinos não são suportados (é).
Então você tem duas opções:
- Mude para o Oracle JDK 6 (você precisará instalá-lo na Web do Oracle).
- Mover para o OpenJDK 7.
A melhor resposta depende do seu projeto. O OpenJDK 7 será o melhor passo para garantir a compatibilidade futura (o Oracle Java 7 é baseado nele), o Oracle 6 pode ser o melhor ajuste se a maioria dos usuários estiver usando-o.