Seu erro ocorre porque o comando find localiza . , o diretório de trabalho atual, e passa para mv .
Se você está apenas movendo arquivos (não diretórios), adicione -type f ao comando find :
find . -type f ...(as before)...
Isso filtrará os diretórios, incluindo o diretório . .
Você também pode se livrar de xargs completamente:
find . -type f -newermt 20170829 -not -newermt 20180101 \
-exec mv -t /backup/desktop/books/Python/ML-demos/ {} +