Se você tem um grep
que suporta expressão regular compatível com Perl (PCRE), então você pode usar
grep -Po 'VAR\(\"\K[^\]*'
ou (mais simetricamente - usando lookbehind e lookahead)
grep -Po '(?<=VAR\(\").*?(?=\")'
Ex.
$ grep -Po 'VAR\(\"\K[^\]*'
function( "((2 * VAR(\"xxx\")) - VAR(\"yyy\"))" ?name "name" ?plot t ?save t ?evalType 'point)
function("value(res VAR(\"zzz\"))" ?name "othername" ?plot t ?save t ?evalType 'point)
xxx
yyy
zzz
Ex.
$ grep -Po '(?<=VAR\(\").*?(?=\")'
function( "((2 * VAR(\"xxx\")) - VAR(\"yyy\"))" ?name "name" ?plot t ?save t ?evalType 'point)
function("value(res VAR(\"zzz\"))" ?name "othername" ?plot t ?save t ?evalType 'point)
xxx
yyy
zzz