Ao recodificar um arquivo, você não deve especificar apenas uma taxa de bits. Meu palpite é que o ffmpeg tenta usar o codec mpeg4 por padrão, e ele se recusa a usar menos de 2mbps porque simplesmente não pode ir abaixo com uma resolução tão alta.
Eu sugiro que você re-codifique com o codec H.264 que você pode fazer assim:
ffmpeg -i ../../tos.avi -c:v libx264 -b:v 500k tos_500k.mp4
Observe, no entanto, que isso usará um método de taxa de bits média de 1 passagem que é muito ruim para a qualidade. Em vez disso, você deve tentar codificar com "fator de taxa constante", ou seja, você direciona uma determinada qualidade e o codificador decide qual taxa de bits média é a melhor para seu arquivo:
ffmpeg -i ../../tos.avi -c:v libx264 -crf 23 tos_500k.mp4
Você está livre para experimentar o valor de crf. Aumentar isso significará menor taxa de bits e pior qualidade, diminuindo-o vice-versa.
Se você deseja segmentar uma taxa de bits média, verifique a codificação de duas passagens . Além disso, não se esqueça das predefinições !
Como uma nota lateral, 500k para 1080p é muito baixo e você obterá resultados ruins. Se você deseja segmentar uma taxa de bits tão baixa, sugiro que você diminua para 480p (854x480). 720p deve ter um mínimo de taxa de bits de 1,5mbps e 3mbps de 1080p.
Para suas futuras perguntas, não se esqueça de postar os registros de entrada / saída do ffmpeg, eles sempre serão úteis :-).