Tudo o que você precisa fazer para fazer isso é (como a mensagem de erro diz) desmarcar a variável $TMUX
:
(unset TMUX; urxvt -e tmux)
A subshell é necessária para evitar que ela seja cancelada em seu ambiente atual também. Se você não se importa com isso, não precisa do subshell.