Você está usando o FileHandler, documentado aqui: link Ele não tem uma propriedade "limit", ele só gira nas alterações do dia.
Você pode configurar o tomcat para usar o log4j, que é mais flexível. Veja esta página: link
swallowOutput no contexto não é recomendado para uso (é o que diz a página acima)