Você está enviando a seleção para stdout e encaminhando para brew upgrade , mas brew upgrade não usa stdin . O comando atualiza tudo.
Você precisará de algo assim para adicionar a seleção como argumentos:
brew outdated | fzf -m --tac | xargs brew upgrade