Sua melhor aposta seria criar seu próprio conjunto de ferramentas para isso:
- Use uma ferramenta como
wgetpara baixar recursivamente os arquivos HTML dos quais o conteúdo é necessário. Preste atenção especial às opções-rpara especificar o download recursivo e-lpara especificar a profundidade da recursão.wgetproduz texto simples. - Use uma ferramenta como
greppara filtrar tudo, exceto a (s) linha (s) contendo o<DIV>necessário. Preste especial atenção às opções-rpara especificar a pesquisa recursiva e-epara especificar uma expressão regular. Pipe a saída degreppara um arquivo de sua escolha.grepproduz texto simples se for alimentado com texto simples.
Dica: pode ser mais simples usar grep várias vezes para filtrar as coisas em partes menores. Isso depende inteiramente de como todas as páginas são semelhantes e de como o código é limpo.
Editar: Então, novamente, talvez usar uma regex não é uma boa maneira de analisar HTML .