$(( 64*64 ))
irá literalmente colocar 4096 na linha de comando e dizer: vá em frente e execute-o. Daí o erro
failed to execute 4096: (2: No such file or directory)
Se você quiser apenas realizar cálculos sem imprimir, remova $. Se você quiser imprimir, use echo $(( 64*64))