>(...) é chamado de substituição de processos . Ele permite que o programa "externo" grave no programa "interno" como se fosse um arquivo.
Nesse caso, está escrevendo stderr a tee -a ${LOGFILE} >&2 , que será anexado a LOGFILE e, em seguida, também gravará tudo novamente em stderr .
O operador de redirecionamento pode ir em qualquer direção para substituição de processo, para que você possa gravar nele, como neste exemplo, ou usar <(...) para ler a partir dele, o que é uma maneira prática de, por exemplo, executar while loop sem executá-lo em uma subshell em si.