Para o Windows, alguém escreveu um script AutoHotkey que fará isso.
Outra opção do Windows (também criada com o AutoHotKey) é DesktopCoral que permite bloquear uma seção do seu tela para que as janelas maximizadas não a cubram.
Para o OS-X, vi Afloat mencionado várias vezes, mas algumas pessoas pareciam ter problemas com ele.