Acho que talvez seu uso de aspas duplas esteja permitindo que o shell expanda e
$ rename -nv "s/^(\d{2})\.(\d{2}).*/se.mp4/" *.mp4
12.34 File name.mp4 renamed as se.mp4
considerando aspas simples ao redor da expressão de renomeação
$ rename -nv 's/^(\d{2})\.(\d{2}).*/se.mp4/' *.mp4
12.34 File name.mp4 renamed as s12e34.mp4