(Problema resolvido) Graças ao comentário de JosefZ acima, eu encontrei a seguinte solução, que funciona perfeitamente em um arquivo BAT executado pelo arquivo VBS sem janela de comando.
"C:\Program Files\Windows Defender\MpCmdRun.exe" "-SignatureUpdate"
If errorlevel 1 ("D:\pop-up message.vbs")