$ nautilus --no-desktop
deve fazer o truque.
Estou executando o Ubuntu 10.04 de 64 bits e, quando tento iniciar o Nautilus a partir da linha de comando, ele não aparece - embora um PID seja gerado. Como root / sudo i pode iniciar o Nautilus bem.
Uma nota: Eu corro o e16 como gerenciador de janelas, portanto não uso o Nautilus para desenhar minha área de trabalho. No entanto, mesmo sob essa configuração, o Nautilus costumava rodar bem como um usuário "normal".
As permissões para o Nautilus são as mesmas dos outros pacotes em /usr/bin . Acredito que este é um problema do Gnome, mas estou atrapalhando nesse ponto.