A chave WEP deve estar em hexadecimal e ter 10 ou 26 caracteres (5 ou 13 bytes ASCII).
Se você quiser especificá-lo em ASCII, terá que prefixar com s:
- não tenho certeza se o iwconfig irá preencher uma senha ASCII, mas tente comprimentos de 5 ou 13.
Veja man iwconfig
e role para key/enc[ryption]
para alguns exemplos.