Nem todas as placas de rede sem fio e combinações de drivers suportam o modo de monitor, particularmente a maioria das Broadcoms. Se o comando reportar "Operação não suportada", temo que isso signifique: não é possível.
Você pode verificar novamente no terminal:
iw list
Aqui está uma amostra da minha máquina:
Supported interface modes:
* IBSS
* managed
* AP
* AP/VLAN
* monitor
* P2P-client
* P2P-GO
* P2P-device
Se o seu resultado não incluir monitor , simplesmente não é possível.
Você pode, é claro, ter uma placa sem fio diferente.