Sua expressão regular está quebrada, acho que você quis dizer algo assim:
's/(\d{2})-(\d{2})-(\d{2})/20$3-$2-$1/'
i.e. hífens não precisam escapar e a segunda barra estava fora do lugar.
Observe que, com essa substituição, você também renomeia os arquivos com o novo esquema de nomenclatura. Você provavelmente quer ancorar a expressão regular. Algo como isso deve funcionar:
rename -n 's/^(\d{2})-(\d{2})-(\d{2})$/20$3-$2-$1/' *