AFAIK você não pode chamar programas externos de dentro de uma fórmula do Calc diretamente, mas você pode definir um User- função definida como um "wrapper". Esta função pode usar o Shell
command para chamar um programa externo. Dessa forma, você pode fazer uma chamada do sistema "indiretamente".