Com o GNU awk , você poderia fazer algo como:
gawk -v RS='\*#\(%&' -v ORS= '{print $0 RT};NR%5 == 0{printf "\n"}'
Com sed (mas tenha em atenção que algumas implementações de sed têm um limite baixo no tamanho das linhas):
sed 's/*#(%&/&\
/5;P;D'