O oxímoro deu 3 motivos comuns, mas além disso (ou melhor, esclarecimentos adicionais) muitos, se não a maioria dos sites, chamarão scripts de domínios como o google-analytics. Alguns desses scripts tentam coletar informações sobre usuários individuais, enquanto muitos estão mais interessados nas interações dos usuários com determinados sites ou correlações em vários sites.
Ghostery já foi mencionado como uma maneira de evitar alguns deles. Você também pode considerar o adblock plus (particularmente útil se você estiver em uma conexão lenta ou se deparar com os anúncios que expandem ao passar o mouse).
Outra opção poderosa é instalar noscript. Isso bloqueará todos os scripts de qualquer fonte até que você os informe. É muito chato, pelo menos no começo, antes de você instruí-lo sobre os sites que você visita regularmente. Mesmo com a maioria dos scripts permitidos, ele ainda oferece alguma proteção contra ameaças mais esotéricas (embora isso possa estar começando a desviar do assunto), mas não tira imagens de terceiros (por exemplo), a menos que seja chamado por um script.
Essas ferramentas de bloqueio não são mutuamente exclusivas - algumas combinações podem ser úteis.