O arquivo .rhosts é lido pelo daemon ( rshd ou rlogind ou sshd ) em cada tentativa de login. (Como usuários comuns podem editar seu arquivo .rhosts quando quiserem, não faria sentido exigir que o root reinicie o daemon.)
Certifique-se de que o arquivo .rhosts não contenha o final da linha do Windows e que ele tenha permissões adequadas: ele não deve ser gravado por ninguém além de você ( chmod 644 ~/.rhosts ou chmod 600 ~/.rhosts ). Não me lembro se a implementação do Tru64 executa essa verificação, mas é melhor fazer isso de qualquer maneira.
Verifique também se o arquivo é um arquivo de texto adequado, com uma nova linha no final (todos os arquivos de texto unix terminam com uma nova linha, a nova linha é um caractere de término de linha e não um separador de linha). Certifique-se de não usar fins de linha do Windows, o que adicionaria um retorno de carro extra que o Unix não trata como uma nova linha.
Verifique se rshd não foi iniciado com o sinal -l , o que desativaria o processamento .rhosts .
Os registros do sistema no servidor são onde você encontrará uma pista sobre o que está acontecendo. O Tru64 mantém seus logs sob /var/adm por padrão (a menos que /etc/syslogd.conf tenha sido modificado).