De acordo com isso, o link do seu chipset não suporta o modo monitor.
Nem todas as combinações de hardware / software suportam o modo de monitor wifi. Como qualquer outra funcionalidade implementada em silício / firmware, seja ouvindo a mídia, enviando e ouvindo os pacotes, o modo monitor deve ser normalmente implementado pelo fabricante para que funcione.
Tenha em atenção que até onde me lembro, algumas implementações permitem apenas monitorização passiva, enquanto outras permitem monitorizar e o envio / produção de pacotes "falsos".
Pense nisso como modo de monitor como um serviço especial / ainda outro suportado pelo hardware (firmware ligado). Ao fazer compras, esse pensamento tem que ser levado em conta, especificamente para usos mais esotéricos. Por isso, é aconselhável usar o Google de antemão e conversar com outras pessoas para ter uma ideia do que elas já estão usando com êxito para fins específicos.
Eu também direcionaria você para outro tópico onde eu falo sobre minha (má) experiência com dispositivos baratos da realtek.