Um controlador possui buffers internos que aloca para os dispositivos conectados com a finalidade de fazer entrada e saída. Esses buffers também são chamados de recursos ou pontos de extremidade.
Dispositivos mais rápidos precisam ter mais buffers para conter mais dados. Esse número pode variar por dispositivo, mas o máximo é de 32 pontos de extremidade com 16 entradas e 16 saídas por dispositivo.
Há relatos de que o controlador host XHCI USB 3.0 da série 8 da Intel suporta apenas 96 terminais, e os limites práticos podem ser atingidos antes.
A partir das informações em sua postagem, eu diria que cada disco USB3 usa 10 endpoints aka. recursos, provavelmente 5 in e 5 out. Portanto, 9 discos usaram 90 endpoints que estavam bem, mas 10 discos requerem 100 pontos de extremidade que excedem o limite de 96, daí o controlador enviou um código de erro para o sistema operacional.
Quando você degradou a conexão com o USB2 mais lento, o controlador alocou muito menos buffers para cada dispositivo, portanto, você pode conectar mais discos.
A solução pode ser adicionar um hub USB2 e coloque nele os discos que não precisam de altas taxas de transferência.
Leitura adicional: