Sim, como você já descobriu, você também precisa instalar os pacotes nxnode e nxclient. Isso é o que as mensagens de erro do dpkg estavam dizendo a você.
O nx parece estar sendo estúpido com a falha na instalação apenas porque o usuário nx já existe. Tente executar deluser nx
e, em seguida, execute a instalação novamente.
Sobre a falha de autenticação que você mencionou: nx pode ser configurado para usar o banco de dados de usuário / senha do sistema ou seu próprio banco de dados. Procure as opções EnablePasswordDB
e EnableUserDB
em /usr/NX/etc/server.cfg e leia sobre essas opções na seção 4 do Guia de administração do servidor NX e também Como funciona o login do NX? ? Se o NX estiver usando seu próprio banco de dados de usuário / senha, talvez seja necessário redefinir isso também.