sed use BRE por padrão, você precisa escapar de \(...\) para capturar a correspondência:
LC_ALL=C sed 's/\(.*\)/\t/' <file
ou usando -E para ativar ERE (que está disponível no GNU sed e BSD sed, e se tornará padrão em breve), então você não deve escapar (...) :
LC_ALL=C sed -E 's/(.*)/\t/' <file
A configuração da localidade como C ajuda você a corresponder a caracteres unicode inválidos.
Mas, é um trabalho melhor para paste :
paste file file
ou awk :
awk '{printf "%s\t%s\n", $0, $0}' <file