Tente especificar apenas as opções de autenticação relevantes em /etc/hostapd/hostapd.conf
:
wpa_key_mgmt=WPA-PSK WPA-PSK-SHA256
Se isso não funcionar, execute o daemon manualmente no modo de depuração para ver onde ele não está funcionando:
hostapd -dd /etc/hostapd/hostapd.conf