O Grep espera que você forneça um nome de arquivo ou uma lista de nomes de arquivos. Não toma um caminho como argumento. Assim, sua primeira tentativa poderia ter sido escrita como
sudo grep searchstring /*
para procurar todos os arquivos imediatamente abaixo da raiz. (Que provavelmente não é o que você quer.)
Editar: o GNU grep pode pesquisar recursivamente, então você pode fazer
sudo grep -r searchstring /
No segundo caso, você entendeu mal como encontrar funciona. -type
requer um argumento dizendo que tipo de arquivo procurar, e apenas adicionando "grep" depois não faz nada. Você pode, no entanto, dizer-lhe para executar um comando em cada arquivo que encontrar, e é provavelmente o que você estava procurando. Assim:
sudo find / -type f -exec grep -l searchstring {} \;
O {}
significa "o nome do arquivo" e \;
significa "o comando é feito agora".