Você não quer canalizar o resultado para o mplayer, em vez disso você quer fornecer o resultado como um argumento, assim:
for /f "delims=" %A in ('youtube-dl.exe -g "http://www.youtube.com/watch?v=sNPVt3cMkT0"') do @mplayer "%%A"
Se usado dentro de um arquivo de lote, dobrar todas as porcentagens, então %A
se torna %%A
.