Existem mudanças no apparmor que podem afetar a aplicação do rlimit no kernel do Ubuntu 3.11. Note que estas mudanças atualmente só se aplicam ao kernel Ubuntu Saucy e não aos kernels upstream, já que o saucy está usando patches apparmor que ainda não entraram no kernel upstream.
Se os rlimits não estiverem funcionando corretamente, registre um bug.