Você pode usar sed . O seguinte removeria linhas com 3 ou mais caracteres:
sed -r '/^.{,3}$/d' filename
Para salvar as alterações no arquivo in-loco, forneça a opção -i .
Se a sua versão de sed não for compatível com a sintaxe RE estendida, você poderá escrever o mesmo em BRE:
sed '/^.\{,3\}$/d' filename
que funcionaria com todas as variantes sed .
Você também pode usar awk :
awk 'length($0)>3' filename
Usando perl :
perl -lne 'length()>3 && print' filename