O instalador gosta de abrir uma interface gráfica do usuário. Se você está em um terminal local, você pode digitar:
export DISPLAY=:0
se você está logado via ssh você precisa fechar a conexão ssh e reconectar com:
ssh -X ...
-X está gerando a variável "$ DISPLAY" correta.
Existe um documento de ajuda da Oracle relativo a este erro: link capítulo G.3 Erro de instalação do terminal remoto