O FLAC é um codec sem perdas, portanto, a compressibilidade é limitada.
Na melhor das hipóteses, você pode usar
ffmpeg -i "video.m2ts" -vn -sn -acodec flac -compression_level 12 "audio.flac"
Como você tem um fluxo de transporte MPEG, também pode tentar
ffmpeg -i "video.m2ts" -vn -sn -acodec copy "audio.mp4"
Isso extrairá o áudio sem recompra.