Veja a explicação das man pages para --audio-quality
:
--audio-quality QUALITY
Specify ffmpeg/avconv audio quality, insert a value between 0
(better) and 9 (worse) for VBR or a specific bitrate like 128K (default 5)
Você precisa incluir uma unidade no número, se quiser que ela seja corrigida, caso contrário, o padrão é VBR.
Então, tente isso:
$ youtube-dl -f bestaudio --max-downloads 99 --extract-audio \
--audio-format opus --audio-quality 100K -o "%(title)s.%(ext)s" PLAYLIST-URL