Tyler, como outros já mencionaram, o Firefox suporta nativamente vídeo HTML5. Se a sua instalação do Firefox não, por favor, tente os seguintes passos:
Primeiro, desative todos os complementos no seu navegador e tente acessar o YouTube novamente. Se o Youtube funcionar, você pode acessar e ativar complementos únicos por vez, testando cada vez para garantir que o vídeo seja reproduzido corretamente.
Em seguida, se você ainda não conseguir reproduzir vídeos do YouTube de maneira nativa, remova o Firefox completamente e, em seguida, vá para link e faça o download de uma nova cópia da última versão e instale-a.
ATUALIZAÇÃO: mais clareza em HTML5
O HTML 5 é essencialmente um contêiner, uma maneira de entregar vídeo, não é o próprio codec de vídeo.
Na foto que você mostra, o HTMLVideoElement é o código que o Youtube usa e que o navegador sabe como manipular, mas na verdade não codifica o vídeo, é apenas o container em que o vídeo é entregue.
O vídeo em si deve ser codificado em um dos vários formatos, que são as outras partes da imagem: h264, WebM, MSE, etc.
Assim, o seu navegador sabe como lidar com o contêiner, mas também deve saber como lidar com os próprios formatos de codificação, e é aí que está o seu problema.
Se você olhar para o Stats For Nerds que o @Scott Chamberlain menciona em seu comentário acima, você nunca verá o HTMLVideoElement listado como o formato de codificação. No entanto, você verá que cada vídeo do YouTube é codificado usando h264 ou WebM ou MSE e, mais uma vez, isso é o que seu navegador não está conseguindo fazer e o que você deve solucionar, e as etapas descritas acima são as corretas primeiro passos para o fazer.
