Desde que você ative o java, o usuário pode compilar algo mais complicado que escapa às suas restrições. Por exemplo. até mesmo o vi pode ser usado para escapar da casca restrita. Bem, o vi não está escrito em java, mas a mesma idéia ...
Chroot e não se destina a ser uma medida de segurança, existem programas que permitem que você escape chroot se você for root. Eu acho que o melhor que você pode fazer é criar um sistema mínimo no chroot e criar um usuário sem privilégios dentro dele (assim ele terá seu próprio / chroot / etc, / chroot / usr que será acessível ao usuário.