Isso é um trabalho para o Applescript. Aqui estão alguns posts que têm código que você pode usar para escrever um mais geral que irá realizar o que você quer fazer. Basicamente, você terá que descobrir quais aplicativos têm janelas abertas e, em seguida, aplicar o seu algoritmo de ladrilhos a eles.
link
link
link
EDITAR
Vale acrescentar que a Apple parece ter uma visão diferente de como lidar com o problema das janelas na tela. Em vez de mantê-los organizados através de algum sistema de ladrilhos, eles fornecem "pesquisa". Se você precisa encontrar um aplicativo ou uma janela em particular, aperte F9 for Exposé, que irá miniaturizar todas as janelas abertas e mostrá-las todas de uma vez para que você possa escolher a que deseja. Se você precisar de todas as janelas de um aplicativo específico, aperte F10, o que puxará as janelas do aplicativo ativo para fora da pilha de janelas da sua área de trabalho e as colocará no topo da pilha.
Nem todo mundo gosta disso, ou entende que essas são as ferramentas que a Apple sugere que você use, para que você obtenha o modo mais comum (Windows e Linux) de lidar com janelas abertas adicionadas por terceiros. Veja como a Apple está sendo intransigente sobre "Thinking Different", algo parecido com o mouse de um botão.
Eu também segui esse paradigma de "pesquisa" ao organizar a maioria dos meus arquivos. A única organização de arquivo / pasta que eu mantenho na minha pasta pessoal são diretórios para tipos de documentos e eu uso o Spotlight para encontrá-los. Primeiro experimentei isso como um experimento quando o Spotlight apareceu com o Tiger e descobri que com os aprimoramentos do Spotlight no Leopard ele realmente funciona (o Spotlight era muito lento e impreciso no Tiger). Eu mantenho os projetos atuais na área de trabalho, e uma vez que eles não estão mais ativos, eles vão para o "arquivo". Isso funciona bem. Eu tenho toneladas de pdfs, etc para trabalhar, e quase nunca gasto tempo procurando pelo documento que queria entre os resultados.
Voltando à questão da janela, no Leopard, entre os desktops virtuais (Spaces; normalmente uso 9 espaços de cada vez) e o Exposé, não senti a necessidade de usar um sistema de janela tradicional.