Eu finalmente consegui instalar o sistema operacional. O problema era, como se suspeitava, que os drivers para a série 1080 ainda não estão presentes no kernel.
Para contornar esse problema, instalei o Debian no disco rígido de outra máquina, adicionei manualmente os drivers da Nvidia e coloquei a unidade de volta na máquina original!