Sua matemática não está correta. Abaixo está um script que usa bc
calculadora de precisão que pode fazer a operação de ponto flutuante sem se preocupar com estouro em bash
#!/bin/bash
test1=/trans/home/user/test1
test2=/trans/home/user/test2
test1sz=$(stat -c%s "$test1")
test2sz=$(stat -c%s "$test2")
[ $(echo "scale=2; ${test2sz} > ${test1sz}*1.1" | bc) -eq 1 ] && {
echo "WARNING: ${test2} has increased 10% or more in size"
}