O erro é gerado por find , não rm .
A razão é que você escreveu assim 'rm -i <file>'
é o único argumento. Isso deve ser reescrito:
find mysite mysite_BAK -name '*.swp' -exec rm -i '{}' \;
então find recebe vários argumentos depois de "-exec" e trata o primeiro como um comando e outros como os argumentos do comando.