Seu comando proposto é sem sentido. sudo sh -c 300000 > file-max
tentará ter um shell de superusuário executando o comando 300000
e redirecionando a saída para um arquivo chamado file-max
no diretório de trabalho atual do shell não-superusuário.
Provavelmente, você está procurando fazer algo como:
sudo sh -c 'echo 300000 > /proc/fs/file-max'
Dito isso, escrever diretamente para /proc
é uma maneira um tanto hacky de alterar essas propriedades. Uma maneira mais "respeitável" de efetuar essa alteração seria:
sudo sysctl -w fs.file-max=300000