A chave WEP deve estar em hexadecimal e ter 10 ou 26 caracteres (5 ou 13 bytes ASCII).
Se você quiser especificá-lo em ASCII, terá que prefixar com s: - não tenho certeza se o iwconfig irá preencher uma senha ASCII, mas tente comprimentos de 5 ou 13.
Veja man iwconfig e role para key/enc[ryption] para alguns exemplos.