Não tenho certeza do que você está perguntando. Você pede que ambos os arquivos removam com menos de 2 dígitos após o decimal e mantenha arquivos com menos de 2 dígitos após o decimal.
Supondo que você esteja usando o shell bash. A resposta será alterada para diferentes shells.
Se você quiser remover todos os arquivos com menos de 2 dígitos após o decimal:
shopt -s extglob
rm !(*.[0-9][0-9])
Se você quiser manter todos os arquivos com menos de 2 dígitos após o decimal:
rm *.[0-9][0-9]