alias rm.dup 'perl -ne '\''print unless $dup{$_}++'\'' \!* &'
Como não é possível incorporar uma aspa simples entre aspas simples, uma delas é sair da aspa simples, inserir uma aspa literal e depois reiniciar as aspas.
'perl -ne '\''print unless $dup{$_}++'\'' \!* &'
|---------|B |-----------------------|D |------|
A C E
Outra maneira é:
alias rm.dup 'perl -ne "print unless "\$"dup{"\$"_}++" \!* &'