Você pode usar o Cat5 para execuções muito curtas em um ambiente Gigabit, mas isso não é recomendado. O Cat5e funciona bem em quase todos os cenários, mas se você estiver conectando do zero, use o Cat6, é apenas um pouco mais caro.
Boas informações da Wikipédia aqui - particularmente o link sobre "crosstalk de extremo extremo".