Sim, se o EUID do processo de acesso corresponder ao usuário proprietário, apenas as permissões do usuário serão verificadas. Se não, mas os GIDs do processo correspondem ao grupo proprietário, as permissões do grupo são verificadas. Caso contrário, as "outras" permissões serão usadas. A bola pára na primeira identidade que corresponda.
Não faz muito sentido para o usuário ter menos acesso do que o grupo, já que normalmente o usuário proprietário pode apenas alterar as permissões e conceder a si mesmo o acesso que quiser. (coisas como SELinux etc.)
Mas no caso do grupo vs outros, pode fazer sentido: você pode negar o acesso a um grupo específico e, ao mesmo tempo, permitir isso a todos os outros. Por exemplo. para um arquivo de propriedade de someuser:somegroup
, com permissões rw----r--
, os membros de somegroup
não podem acessá-lo, mas qualquer um que não seja membro de somegroup
pode ler o arquivo.