O Bash parece funcionar corretamente em números inteiros assinados de 64 bits. Se você precisar de ainda mais robustez, use bc, por exemplo nesses inteiros de 64 bits não assinados que o bash não pode manipular.
echo "18446744073709551615 * 2" | bc -l
36893488147419103230
echo "18446744073709551615 > 2" | bc -l
1
echo "18446744073709551615 < 2" | bc -l
0
De improviso, modifico o shmmax como o Oracle indica. Há várias páginas da Web explicando exatamente o que isso fará, caso você tenha alguma hesitação sobre mexer na distribuição de memória compartilhada.