Se o seu arquivo não é enorme e você pode carregá-lo diretamente na memória, isso deve funcionar:
$ perl -000pe 's/\n([^□])/ $1/g; s/^□ //mg;' raw.txt
I have box and space in front
I am a large line which will et appended to next line.
I am another line.
O -000
ativa o modo de parágrafo e (supondo que não haja novas linhas consecutivas no arquivo) carregará o arquivo inteiro na variável especial $_
. Em seguida, você faz as substituições necessárias e o -p
faz com que $_
seja impresso automaticamente.