Se você quiser que sua placa wireless mude para o driver nl80211 que o hostapd suporta, você precisa usar um driver diferente para sua placa wifi. Como você mencionou o driver em uso é brcm80211, ele não suporta nl80211. Você precisa usar o driver brcmsmac para sua placa que vem instalado com o Ubuntu 11.04,11.10.