Experimente grep :
grep -iv dog inputfile
-i para ignorar maiúsculas e -v para inverter as correspondências.
Se você quiser usar sed , faça:
sed '/[dD][oO][gG]/d' inputfile
Em sed , há também o I flag, que deve tornar o caso de correspondência insensível, mas, até onde eu me lembro, isso não funciona em todos os sabores de sed . Para mim, isso funciona:
sed '/dog/Id' inputfile
mas pode muito bem ser que isso não funcione no OS X.