O problema é que o tipo padrão de regex usado pelo find é o estilo emacs. A documentação não inclui a construção \{n,\}
- levando-me a acreditar que ela não é suportada na implementação de find de expressões regulares no estilo emacs. O emacs-wiki lista isso como válido , no entanto, é possível que isso nem sempre tenha sido o caso.
Descobri que o seu regex produziu a saída se você fizer isso:
$ find . -regextype posix-basic -regex '.*\..\{5,\}'