De acordo com o manual aqui estão as configurações disponíveis
Agora não vejo HDMIx3 listado, mas não sei se isso significa que não é suportado. Diz DP para DVI precisa de um adaptador ativo (eu não sei se o mesmo iria para DP para HDMI), que poderia ser o seu problema. Eu recomendaria reler a seção de vários monitores do manual que acompanha o cartão (capítulo 4, página 11 na versão on-line), verifique seu adaptador DP para HDMI está no lista de adaptadores compatíveis , e verifique se você tem os drivers eyefininty mais recentes.