bash
não tem matemática interna de ponto flutuante, nem acredito que forneça raízes quadradas. Para isso, você precisa chamar um utilitário externo, por exemplo, bc
.
Talvez seja melhor escrever esse código em um idioma diferente, por exemplo, Perl ou Python; isso está se aproximando do limiar de complexidade que bash não lida tão bem, parece.