Você perdeu a ; no final (e também um espaço entre {} e ; ). O comando correto é:
find . -type f -name "IMAG1806.jpg" -exec rm -f {} \;
; indica o final do predicado -exec de find .
Observe também que usamos \; ie \ na frente de ; para escapar da interpretação de ; por shell, caso contrário, o shell tratará ; como o final de todo o comando find e find lançará o mesmo erro. Você também pode usar ';' em vez de \; .
Você estava usando \ no final, isso indica que seu shell continuará recebendo entrada via PS2 (indicado por > ), você digitou IMAG1806.jpg novamente, então o comando inteiro se torna:
find . -type f -name "IMAG1806.jpg" -exec rm -f {}IMAG1806.jpg
Como você pode ver, este não é um comando válido com IMAG1806.jpg no final, sem fechamento do predicado -exec e sem espaço entre {} e \; .