Supondo que você queira dizer que não deseja corresponder a \r , basta especificar que está atrás de uma guia ou de um espaço e nada mais:
grep -P '[\t ]$' file
Como você está no OSX, seu grep não terá -P , então tente:
grep -E $'\t'"| $" file
Como alternativa, você pode usar a classe de caracteres POSIX:
grep '[[:blank:]]$' file
Como explicado em man wctype , a classe de caractere [[:blank:]] "realiza a função de classificação isblank (3)" e, como explicado em man isblank , ou seja:
isblank()
checks for a blank character; that is, a space or a tab.
Por fim, você também pode usar outra ferramenta:
sed -n '/[\t ]$/p' file
perl -ne 'print if /[\t ]$/' file