Obrigado ao @LongNeckbeard pela ajuda! Se você receber este erro, basta remover as linhas quebradas:
shell_exec('ffmpeg -i ../a5ca0b5894324f8bb54bb9fffad29d1e/tagged/d13c24d9be.mp3 -filter_complex \ "[0:a]avectorscope=s=1280x720,format=yuv420p[v]" \-map "[v]" -map 0:a output.mp4');