O padrão IEEE 802.11 não fornece uma maneira de saber antecipadamente qual dos dois métodos de autenticação WEP estão disponíveis. Um cliente teria que tentar uma autenticação usando cada método e esperar que a implementação do AP seja boa o suficiente para retornar os códigos de razão certos.
Da minha experiência em 1999-2002, quando WEP era tudo o que tínhamos, muitos APs tinham implementações ruins de métodos de autenticação WEP, e muitas vezes enviam o código de razão errado (ou não respondem de jeito nenhum), então você realmente pode Diferencie de forma confiável entre "chave inválida" e "algoritmo não suportado".
Embora eu não tenha nenhuma experiência pessoal com wpa_cli, eu ficaria surpreso se tivesse algum mecanismo para comprovar quais algoritmos WEP são suportados, uma vez que tal recurso seria altamente não confiável devido a implementações pobres de AP, e acabaria apenas frustrando todos com resultados incorretos ou inconclusivos.