(Isso funciona no Windows e no Mercurial 1.5.3; as coisas podem ser diferentes para o Unix, se é isso que você está usando).
Você tem a especificação do arquivo. em citações simples; deve ser aspas duplas:
hg add -X "._*"
Outra forma seria adicionar uma entrada ao seu arquivo .hgignore , por exemplo:
syntax: glob
._*