Vá para Tools - > Preferences - > Subtitles and OSD ( ou CRTL + P ). Lá, você encontrará uma opção para alterar o tamanho das legendas, entre outras configurações.
Screenshot: 
Situação:
Recentemente eu comprei um DVD com legendas. Quando reproduzo o DVD usando o Windows Media Player e o PowerDVD, as legendas estão corretas, mas quando uso o VLC, a fonte fica muito grande. Tão grande que a frase não é concluída na tela de vídeo.
O que eu sei:
Estou aprimorando meu VLC e leio alguns posts. Ele diz que os subs de DVD são gravados como imagens, portanto, alterar o tamanho da fonte não faria. Eu consegui deslocar os subs para cima e para baixo.
O que eu tenho:
VLC v. 1.0.5 Sistema operacional Windows
Vá para Tools - > Preferences - > Subtitles and OSD ( ou CRTL + P ). Lá, você encontrará uma opção para alterar o tamanho das legendas, entre outras configurações.
Screenshot: