Não sei se entendi a pergunta, mas começando com o OS X Lion, é possível aumentar a altura da janela além da altura da tela.
- Selecione »Encaixe» Posição à esquerda (algo opcional, mas facilita as seguintes etapas).
- Arraste a janela que você deseja redimensionar para a parte inferior da tela, para que apenas a barra de título fique visível.
- Redimensione a janela na borda superior (possível desde o OS X 10.7) e arraste essa borda para a barra de menus.
Será parecido com isto:
Mas a janela é realmente muito maior:
Se você mover a janela depois, sua altura será reduzida à altura da tela novamente.