Se você quiser manter as últimas N linhas, use tail (por exemplo, as últimas 20 linhas):
tail -n 20 "$HISTFILE" > ff && mv ff "$HISTFILE"
Estou usando a variável HISTFILE , pois ela sempre apontará para o arquivo do histórico, mesmo que você tenha alterado o nome dela.