Raspe um site com curl / wget anexando um parâmetro a cada site

1

Eu preciso criar um website para todos os sites e anexar um Paramater, por exemplo

www.theSite.com/allpages?myPara=us

Agora, o que recebi é wget --recursivo para obter todos os sites, mas isso não anexa o parâmetro e o conteúdo é inútil. Eu preciso fazer isso em um segundo passo:

curl http://theSite.com/allpages?myPara=us | grep -c MyString

Então, em essência, estou procurando por uma String em particular em um site inteiro ao qual eu tenha acesso somente via HTTP.

    
por nottinhill 01.12.2011 / 13:27

1 resposta

1

Eu consegui agora usando colchetes e curvando assim:

curl http://www.mySite.com/category1/category2/{+cat1,+cat2,+cat3,+cat4,+cat4}?myPara=us | grep -c myString

É claro que isso não me ajudará a todos os sites, mas é possível elaborar um script com wget, regex, coleções e loops.

    
por 01.12.2011 / 15:59