what type of cable should I use
Todas as portas no TP Link TL-SF1008D suportam Auto-MDIX, assim você pode usar qualquer cabo Ethernet de par trançado Cat 5 / 5E / 6 terminado em 8P8C cruzado (RJ45).
if I am using the 2 pair cable (instead of 4) between the switch and the router I am able to connect to the internet but same is not true in case of 4 pair cat5 cable.
100Base-T precisa apenas de dois pares. Seu cabo Cat5 de 4 pares está quebrado ou conectado incorretamente, teste-o com um testador de cabos adequado.