Você não pode alterar o formato do botão de gravação. O botão de gravação salva o arquivo quando o VLC o recebe, então o AVI é salvo como AVI e o MPEG é salvo como MPEG, etc. link
Aqui está tudo sobre o link do registro . Observe que as instruções na seção " Localizar vídeos gravados " provavelmente são sobre o registro de um filme em DVD; Eles falam principalmente sobre o VLC pode gravar DVD para uma unidade.
Experimente.