O plug-in do Flash é especificamente projetado para não tela cheia assim que o vídeo perde o foco. Tanto quanto sei, não há como alterar isso, nem há uma maneira de ocultar a mensagem "Pressione ESC para deixar a tela cheia" que aparece ao entrar no modo de tela cheia.
Uma solução parcial para o YouTube, pelo menos, é ativar o modo HTML5.