Eu não tive nenhuma experiência com o hostapd, mas é provável que ele modifique a tabela de roteamento (e talvez até mesmo o iptables).
depois de iniciar o hostapd, pode ser uma boa ideia executar
netstat -nr
iptables -t nat -L
iptables -t filter -L
e tente descobrir onde os pacotes estão indo.
então, aumente seus redsocks e dê uma nova olhada na configuração completa do iptables
deixe-me saber essas saídas, eu posso ser capaz de ajudar