O chmod 777 /home é um problema - você não deveria fazer isso. Mude de volta. Coisas como essa nunca devem ser necessárias ao executar como root : root ignora os bits de permissão.
Além disso, está apenas dizendo a você que não é possível verificar a exatidão da contabilização de cotas se o sistema de arquivos for modificado durante a verificação. Basicamente, a maneira como funciona é verificando todos os arquivos no sistema de arquivos, totalizando o tamanho deles (por usuário / grupo). Então, dado três arquivos (A, B e C), pode-se verificar A para obter seu tamanho, usuário e grupo, então B, então C. Se estiver no meio disso (enquanto estiver adicionando B, por exemplo) alguém adiciona 10MB para A, quotacheck não sabe o que aconteceu. Então, ele terá uma quantia pequena de 10 MB - e, portanto, reclamará de um erro contábil de cota quando não houver realmente um. Também pode ser possível corromper o arquivo de contabilidade de cotação, dependendo.
Normalmente, você executaria quotacheck na inicialização, antes de começar a usar o sistema de arquivos (os scripts de inicialização da sua distribuição provavelmente já fazem isso). Alternativamente, você pode trazê-lo para um único usuário para que não haja usuários tentando modificar seus arquivos.