Você já usa globs; você pode usá-los para qualquer parte do nome do arquivo:
find -name '*.log*' -type f -delete
Ou se você quiser ser mais específico:
find \( -name '*.log' -o -name '*.log-[0-9][0-9][0-9][0-9][0-9][0-9][0-9][0-9]' -o -name '*.log-[0-9][0-9][0-9][0-9][0-9][0-9][0-9][0-9].xz' \) -type f -delete