Basta colocar o valor em uma variável
compiler_options_for_debug_version=""
if something; then
compiler_options_for_debug_version="-g -O0"
fi
Em seguida, certifique-se de citar a variável ao usá-la: isso é importante.
CFLAGS="$compiler_options_for_debug_version" ./configure ...