Você perdeu o a ;no final (e também um espaço entre {}e ;). O comando correto é:
find . -type f -name "IMAG1806.jpg" -exec rm -f {} \;
;indica o fim do -execpredicado de find.
Observe também que usamos \;ie \na frente ;para escapar da interpretação do ;shell, caso contrário, o shell será tratado ;como o final de todo o findcomando e findlançará o mesmo erro. Você também pode usar em ';'vez de \;.
Você estava usando \no final, isso indica que seu shell continuará recebendo entradas via PS2(indicado por >), você digitou IMAG1806.jpgnovamente, para que todo o comando se torne:
find . -type f -name "IMAG1806.jpg" -exec rm -f {}IMAG1806.jpg
Como você pode ver, este não é um comando válido, com IMAG1806.jpgno final, sem fechamento de -execpredicado e sem um espaço entre {}e \;.
rm "IMAG1806.jpg"? Está no mesmo diretório, para que você saiba como é chamado.