Não é exatamente a modeline, mas você pode fazer o download das informações EDID do monitor, onde todas as resoluções compatíveis são listadas. Eu usaria as ferramentas get-edid e parse-edid do pacote read-edid ( link ). Em seguida, tente usar as informações do EDID ao iniciar o X em vez de pedir ao monitor todas as informações.
Eu sei que o driver nvidia tem suporte muito bom para o arquivo EDID personalizado. Não tenho certeza de como ele é suportado em outros drivers. Tenho certeza que você vai descobrir isso.