Alt + Enter geralmente funciona (principalmente em aplicações DirectX). Esta parece ser uma tradição mais do que qualquer outra coisa, mas eu encontrei surpreendentemente grande número de programas suportá-lo. Além disso, Esc vale a pena.
Existe também um programa chamado DxWnd que é projetado especificamente para essa finalidade: forçar programas de tela inteira em janelas modo. Eu não uso há muito tempo, mas ainda está ativamente desenvolvido e vale a pena um tiro. Ele foi projetado originalmente para e funciona melhor com o DirectX, mas parece OpenGL (outra biblioteca de gráficos semelhante ao DirectX) e suporte GDI (programas gerais do Windows geralmente usam isso) foi adicionado. Veja aqui para links de download.