Depois de dar uma olhada em este blog post, eu posso sugerir que você execute 7-zip a partir da linha de comando:
7z l -slt file.zip
ou
7z l -slt file.rar
Você receberá uma lista das propriedades do arquivo, incluindo a linha:
Encrypted = -
ou Encrypted = +
, dependendo se o arquivo é protegido por senha ou não. Basta verificar essa linha com, por exemplo:
| findstr /c:"Encrypted = +"
no Powershell