Você geralmente usa o PXE / TFTP para inicializar algo. Como um instalador.
Então, é claro, se esse instalador (respectivamente o sistema que você está instalando) suportar o iSCSI, você poderá instalá-lo no Synology.
Você, no entanto, provavelmente mistura as coisas porque sabe que o iSCSI, bem como o PXE, "funciona usando a rede", no entanto, essas são coisas fundamentalmente diferentes.