Existe uma configuração de registro que ativa ou desativa esse recurso. Você pode usar o Editor do Registro (Iniciar > Executar > regedit) para editar as seguintes chaves:
HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Policies\Explorer\NoTaskGrouping
HKEY_LOCAL_MACHINE\Software\Microsoft\Windows\CurrentVersion\Policies\Explorer\NoTaskGrouping
Ao definir seu valor como "0", você poderá selecionar as opções de agrupamento nas propriedades da barra de tarefas.