cat
retornará 0 (zero) no sucesso.
De acordo com ssh
manual:
EXIT STATUS
ssh exits with the exit status of the remote command or with 255 if an error occurred.
Então, no seu caso, é o suficiente
cat some_lines_to_append.txt |
ssh [email protected] 'cat >> all_lines_collected.txt' &&
rm some_lines_to_append.txt ||
echo 'Error occurred.'