No Excel é praticamente "Uma vez uma hiperligação, sempre uma hiperligação". Você só precisa tomar cuidado para ter um hiperlink para a parte FALSE da instrução IF também, então o link tem um lugar válido para o salto. Uma possibilidade é criar um hiperlink para a célula que está sendo clicada.
Se a fórmula estiver no arquivo Book1.xlsx na Planilha1! A1, você poderá usar algo como
=IF(ISTEXT(SETUP!D39),HYPERLINK("#'DEDICATED FUNDS (10)'!A1", SETUP!D39), Hyperlink([Book1.xlsx]Sheet1!A1,"(NOT IN USE)"))
Ajuste o nome do arquivo e a referência da célula para sua situação.