É bem conhecido que o driver Broadcom STA não suporta o modo monitor. Você pode confirmar isso por si mesmo:
iw list
Meus relatórios de cartão sem fio:
Supported interface modes:
* IBSS
* managed
* AP
* AP/VLAN
* monitor
* P2P-client
* P2P-GO
* P2P-device
Além disso, para quase todos os dispositivos Broadcom, um e apenas um driver suporta o dispositivo. Para estes, não sabemos de nenhum driver alternativo que funcione, e muito menos forneça o modo monitor.