Se o seu hardware requer que o firmware seja carregado no chip, você deve usá-lo, caso contrário, não se pergunte por que a sua resolução é redefinida para algo que não é nativo em seu monitor.
Sem firmware, o driver gráfico provavelmente não detecta o chip gráfico ou não consegue acessar os recursos avançados que você mencionou, e retorna às resoluções VESA fornecidas como básicas pelo seu monitor para operação à prova de falhas (sempre disponível).
Os modos VBE são fornecidos pelo vídeo bios do próprio chip gráfico e geralmente contêm apenas definições para os modos mais comuns.