O Windows lista suas janelas na ordem Z, que é a mais alta primeiro, a última mais abaixo. Ao usar Alt-Tab uma vez, a janela logo abaixo da janela superior é trazida para cima, enquanto a anterior é colocada logo abaixo. As janelas selecionadas anteriormente serão, assim, o alvo da próxima aba Alt.
Observe que a ordem em que as janelas são apresentadas após cada pressão de tabulação não está relacionada à posição na barra de tarefas, apenas à ordem Z. Não estou ciente de como mudar esse comportamento.
Você deve encontrar uma maneira de afetar a ordem Z para recriar o esquema de troca de guias dentro de uma janela de vários documentos.