Seu comando proposto é sem sentido. sudo sh -c 300000 > file-max tentará ter um shell de superusuário executando o comando 300000 e redirecionando a saída para um arquivo chamado file-max no diretório de trabalho atual do shell não-superusuário.
Provavelmente, você está procurando fazer algo como:
sudo sh -c 'echo 300000 > /proc/fs/file-max'
Dito isso, escrever diretamente para /proc é uma maneira um tanto hacky de alterar essas propriedades. Uma maneira mais "respeitável" de efetuar essa alteração seria:
sudo sysctl -w fs.file-max=300000