achei a solução, o problema era a taxa de atualização de 60 Hz que meu gpu aparentemente não suporta - configure para 30:
xrandr --output DP-1-1 --mode 3840x2160 --rate 30
DP-1-1 varia - execute xrandr para ver o nome do monitor
No ubuntu 16.04 meu monitor Acer não mostra nenhuma imagem com resolução 4K. Ele estava trabalhando com cd ao vivo com resolução de 4k mas no ubuntu instalado só funciona com full hd. 4k é selecionável, mas não mostra nenhuma imagem. Se eu usar o driver nvidia, o laptop congela depois de definir as configurações de exibição com 4k. Eu tentei com cabos HDMI e DisplayPort. No windows e ubuntu live cd a resolução 4K funciona
achei a solução, o problema era a taxa de atualização de 60 Hz que meu gpu aparentemente não suporta - configure para 30:
xrandr --output DP-1-1 --mode 3840x2160 --rate 30
DP-1-1 varia - execute xrandr para ver o nome do monitor