Isso adicionará 10:
echo "$(awk '{x=$0+10;if(x>100)x=100; print x}' a.txt)" > a.txt
Isto irá subtrair 10:
echo "$(awk '{x=$0-10;if(x<0)x=0; print x}' a.txt)" > a.txt
$0
é o valor da linha atual sendo lida no arquivo, então adicione / subtraia 10 dela e, em seguida, verifique se ela está dentro das restrições.
Graças ao ótimo comentário que o Wildcard criou, você pode fazer isso sem usar um arquivo temporário.