Uma forma de portably fazer esse tipo de coisa é a seguinte:
sed -e '
# ... assuming prev sed cmds made pattern space carry newline(s)
y/\n_/_\n/ ;# exchange newlines with an underscore
s/^[^_]*_// ;# remove up till the first underscore, ummm newline
y/\n_/_\n/ ;# revert the transformation
'