Use o comando R [ead] de Sed
Você pode usar o comando r do sed para ler em um arquivo. Por exemplo, para corresponder a linha pelo seu número:
sed '2 r /tmp/file2.txt' /tmp/file1.txt
Ou se você preferir combinar a linha pelo conteúdo:
sed '/^line 2/ r /tmp/file2.txt' /tmp/file1.txt
Este é um comando padrão e não depende de nenhuma extensão GNU, por isso deve funcionar em diferentes implementações de sed.
Os comandos acima imprimem o resultado em sua saída padrão. Se você quiser modificar o arquivo original, adicione a opção -i
logo após o sed (isso funcionará no Linux e no Cygwin, mas não em todos os sistemas unix).