Se você estiver instalando o netbeans como root, seu problema pode ser devido ao X não permitir acesso root à sessão (este foi o caso quando eu inicialmente tentei instalar). A seguinte página da Web fornece várias maneiras diferentes de fornecer ao usuário root acesso à sessão X atual e também discute brevemente os problemas de segurança: