Depois de investigar um pouco, parece que Shift-F1 é keybinding definido em /usr/share/byobu/keybindings/f-keys.tmux
bind-key -n S-F1 new-window -k -n help '$BYOBU_PAGER $BYOBU_PREFIX/share/doc/byobu/help.tmux.txt'
E esse comando falha porque é executado no shell de peixe e o shell de peixe não permite que uma variável seja usada como um comando.
Alterando a ligação para
bind-key -n S-F1 new-window -k -n help 'sh -c "$BYOBU_PAGER $BYOBU_PREFIX/share/doc/byobu/help.tmux.txt"'
funcionará, pois usará sh
para executar o comando.