Até mesmo a simples pergunta que você está começando esconde alguma complexidade. Eu começaria com
sed -E 's/\(([^()]*)\)//'
repetido até que não haja parênteses pares . Isso substitui o texto mais interno:
$ echo "((body))" | sed -E 's/\(([^()]*)\)//'
(body)
Como sugerido por Kusalananda no entanto, para eliminar os comandos do TeX, você deve verificar detex
que está disponível em TeX Live (e na maioria das distribuições). Esse processamento exige mais do que parênteses ou chaves correspondentes: você precisa saber um pouco sobre o comportamento de vários comandos. Mesmo no seu exemplo, \color
precisa ser processado de uma forma, \textbf
outra ...