Como Tante diz, esses $Word: ...$ são inseridos e atualizados por alguns sistemas de controle de versão (CVS e SubVersion, tipicamente).
O GNU diff tem uma opção --ignore-lines-matching-re que pode excluir linhas que correspondem a uma determinada expressão regular. Este deve fazer o truque:
diff -wu --ignore-matching-lines='\$[A-Z][a-z]*:.*\$' -r sourceA/ sourceB/
(Observe o \ antes de $ para evitar que ele seja interpretado como um marcador de fim de linha no regexp).