O caractere " não é especial para o shell em ' ... ' . De fato, dentro de ' ... ' nenhum caractere é especial para o shell; como conseqüência, os caracteres " são passados para sed ; e eles não são especiais para sed .
O comando sed -e 's/" host-name,"//g' está procurando, literalmente, " h o s t n a m e , " , que não vai encontrar porque não está lá.