I want to record video from games, therefore I cannot use very large video resolution, ...
Por que você está tão certo sobre isso? Eu posso gravar Full HD, então não vejo por que você não pode.
Verifique se você está usando a ferramenta certa para fazer o trabalho, eu recomendo XSplit que pode gravar no arquivo.
I tried to use YouTube's recommended 854x640 resolution, ...
Por que você está tentando resoluções tão baixas? Isso não vai ficar claro em 1920x1080, que é de tamanho duplo.
but it wasn't possible with h264 and the encoding software I used (Handbrake) converted it to a width of the nearest multiple of 4, ...
O YouTube lista 854x480, que é 16: 9, não vejo onde você obteve 854x640, do qual é 4: 3.
which I think is a limitation of the h264 format.
Os formatos não limitam a resolução e a escala que você usa. Se eu quiser 1000x10 com uma proporção de 100: 1 para uma grande placa de banner em algum lugar ao longo do caminho, eu posso usar o h264 para isso.
The video I encoded was sharp and fine quality, but when I uploaded it to YouTube, it lost a lot of quality and the preferred large video view looks almost as bad as a 320p video. I tried to wait a few days but it never got sharper (in case it didn't process it completely yet).
Quanto mais baixa a resolução, mais perceptível será a compactação.
So, which resolution and encoding options I should use, if I want the large video player to have the sharpest possible video, retaining the original video quality as good as possible?
1920x1080, com as configurações mais altas de FPS e taxa de bits possíveis.
É tão simples assim: quanto maior a resolução, maior a qualidade do vídeo.
I noticed that recording with 640x480, the video was sharper than with 1280x720, so I'm not sure what im doing wrong here; both were h264.
Embora isso pareça estranho, acho que tem a ver com o fato de que o primeiro é 4: 3, enquanto o último é 16: 9. Talvez um deles seja escalado? De qualquer forma, isso tem algo a ver com os arquivos de vídeo, não com o YouTube. A menos que você esteja comparando ambos no 360p, porque a resolução menor sofreria menos compressão.
Is it anyhow possible to prevent YouTube from re-encoding the videos?
Não, é assim que funciona o modelo de conteúdo. Ajustar todos os dispositivos ...
I just wonder how people can make so sharp videos, while mine are all blurry after upload, but before upload they looked fine. I also tried YouTube's suggested bitrates with h264, but it didn't work any better.
É a resolução que importa, limitando-se desde o início, você está pisando em seus próprios dedos.
Então, desligue o gravador que você está usando agora e confira outros (como o XSplit acima). Se o seu computador não oferecer suporte, você poderá se beneficiar de um equipamento melhor.
Eu não comecei a transmitir ou passei mais tempo em minhas configurações de transmissão ao vivo, mas aqui está um exemplo de 720 casting qualidade, note que isso é limitado pela minha rede (ou eu não tenho certeza de quão alto eu poderia ir) e não pelas minhas capacidades de gravação. Então, se eu fosse salvar em um arquivo e carregar esse arquivo, ele seria de qualidade muito melhor, mas eu não tenho o software instalado no momento para tentar ...