O seguinte funcionou para mim no Ubuntu 16.04.1 LTS:
- Instalar o compizconfig-settings-manager
- Abra
- Selecione a categoria "Área de trabalho"
- Selecione "Plug-in do Unity do Ubuntu"
- Navegue até a guia Alternador
- Marque a caixa "Alternador muda estritamente entre aplicativos"
Se as únicas janelas abertas pertencerem àquelas da mesma aplicação, o alt-tab continuará alternando entre elas.