F11 alterna a janela entre a tela inteira e a janela.
Se o VLC é o padrão para abrir em tela cheia, você pode mudar isso no Windows 7 por
- Abra o VLC.
- Redimensione a janela para o tamanho padrão desejado (se você estiver em tela cheia, alterne para a exibição da janela primeiro).
- Fechar o VLC.
Agora, da próxima vez que você abrir o VLC, ele deverá ser aberto na última visualização que você deixou.