Se a sua versão da Radeon HD7770 tiver DisplayPort, ela deverá ter duas linhas de saída de vídeo digital separadas. Adaptador deve ser barato, como você converter digital DVI-D (D para Digital) para DisplayPort digital. Na Polônia eles custam cerca de 15 euros, então eles devem custar aproximadamente o mesmo em seu país. No entanto, eu não acho que o HD7770 seja capaz de rodar um segundo monitor mais alto do que 1080p (mas eu não excluo essa possibilidade!).
Quanto ao segundo caso, de acordo com a documentação da nVidia:
Você tem duas linhas analógicas digitais e duplas, então você deve ser capaz de usar o monitor 1440p. Também, por favor, dê uma olhada na nota na nVidia docs, que afirma que max. resolução de Quadro FX-770M depende do OEM, como eles podem por ex. reduzir max. resolução nas suas configurações.
Sobre dois monitores adicionais para sua estação de trabalho móvel:
Eu explorei vários sites relacionados à Dell Precision e a maioria deles afirma que as séries Precision precisam de estações de dock adicionais (300 $) para a segunda saída de monitor.