O problema é que você precisa enviar o prefixo ('C-b') antes do tmux escutar sua ligação de chave.
KEY BINDINGS
tmux may be controlled from an attached client by using a key combination of a prefix key, 'C-b' (Ctrl->b) by default, followed by a command key.
Então o Ctrl-Tab por si só não funciona. Você precisa digitar o prefixo primeiro.
É possível ligar chaves que não requerem o prefixo, passando o argumento -n para bind-keys da seguinte forma:
bind-keys -n C-Tab next-window
bind-keys -n C-S-Tab previous-windows
Veja esta resposta em stackoverflow.com para mais detalhes.