De man bash :
*(pattern-list)
Matches zero or more occurrences of the given patterns
Você tem uma expressão glob que corresponde a arquivos que começam com zero ou mais 1 s - que são todos os arquivos.
Uma maneira simples de desativar esse comportamento de globbing é \ escapar dos parênteses:
rm *\(1\)*
Caso contrário, você pode usar shopt -u extglob para desativar o comportamento e shopt -s extglob para reativá-lo:
shopt -u extglob
rm *(1)*
shopt -s extglob
Observe que, como Stephane diz , extglob é ativado por bash-completion , portanto, desativá-lo pode fazer com que as funções de conclusão não funcionem corretamente.