Você está quase lá, mas sua expressão regular está substituindo a nova linha e o não dígito por uma guia.
Que tal substituir cada nova linha seguida por um não-dígito com uma tabulação e esse mesmo não-dígito ?
%s/\n\(\D\)/\t/g
O escape é um pouco confuso, mas basicamente você tem um agrupamento em torno do \D
que irá capturar qualquer que seja o não-dígito. Isso é então referido com para inseri-lo após a tabulação.