Quais são os codecs de vídeo mais populares e comercialmente distribuíveis?
H264 AVC, H264, WMV e outros populares não estão livres para distribuir em produtos comerciais.
ADICIONADO: Existe alguma diferença de qualidade entre H264 e OGG Theora?
Não há muitos. Os codecs de vídeo são quase todos sobrecarregados por problemas de IP. Ogg Theora é o único que vem à mente. Teoricamente o XVid também, mas é baseado em MPEG4 e provavelmente tem problemas de IP latente.
A única outra solução é voltar a algo antigo como o MPEG1, que provavelmente perdeu a maior parte da proteção contra patentes até agora.
Sua pergunta parece ser sobre formatos de contêiner. MKV não é onerado por patentes. Como Steven Rowe diz, um arquivo MKV usando Theora para vídeo e Vorbis para áudio seria completamente Software Livre.
tentou ogg theora? link