Eu estava tendo o mesmo erro no RHEL 6: [ERROR] outro Xserver já está ativo no display ....
Consegui que o xrdp funcionasse instalando pacotes do gnome. Eu não tenho minha lista inicial de pacotes do gnome. Os nomes dos pacotes podem ser diferentes em outras distribuições do Linux. Adicionando estes tem xrdp funcionando:
Pacotes adicionados:
gnome-desktop
gnome-session-xsession
gnome-applets
gnome-menus
(NOTA - muitos outros pacotes foram instalados como dependências. É bem possível que a instalação de uma das dependências tenha resolvido este problema.)
A lista final dos pacotes gnome que eu instalei é:
gnome-applets
gnome-desktop
gnome-doc-utils-stylesheets
gnome-icon-theme
gnome-keyring
gnome-menus.
gnome-panel
gnome-panel-libs
gnome-python2
gnome-python2-applet
gnome-python2-bonobo
gnome-python2-canvas
gnome-python2-desktop
gnome-python2-extras
gnome-python2-gnome
gnome-python2-gnomevfs
gnome-python2-libegg
gnome-session
gnome-session-xsession
gnome-settings-daemon
gnome-terminal
gnome-themes
gnome-user-docs
gnome-vfs2
Não consegui encontrar qualquer relação da mensagem de erro xrdp com esta correcção. Eu adivinhei que a mensagem de erro pode na verdade ser uma deturpação do erro real. É por isso que tentei instalar pacotes adicionais do gnome. Espero que isso ajude alguém a superar este problema.