Supondo que você tenha o Google Chrome instalado e configurado, você precisa instalar a seguinte extensão do google docs para chrome:
https://chrome.google.com/webstore/detail/google-docs/aohghmighlieiainnegkcijnfilokake
Em seguida, no nautilus, clique com o botão direito do mouse em um arquivo docx ou xlsx, acesse propriedades e escolha google-chrome como o aplicativo padrão para esses arquivos.
Isso deve ser feito.