Depois de jogar um pouco e ler a documentação mais de perto, acredito que a predefinição "Apple TV" funcionará. E parece estar funcionando bem quando envio o arquivo de saída para o meu Tivo.
Os documentos dizem que a predefinição da Apple TV aplicará essas configurações:
Vídeo: perfil principal H.264, 5 Mbps máx., 1280 × 720 pixels a 24 fps máx. ou 960 × 540 pixels a 30 fps no máximo.
Áudio: AAC-LC, estéreo, 160 Kbps, 48 kHz
Isso funcionará bem para o que estou fazendo - convertendo vídeos que estavam em definição padrão para reprodução no meu Tivo HD.