Esta não é uma explicação muito boa. Um token é uma sequência de caracteres que forma um sinal de palavra ou de pontuação. Caracteres como <
e |
também fazem parte dos tokens. Você pode chamá-los metacaracteres, mas isso não é uma terminologia útil. As regras básicas são:
- Espaços em branco não fazem parte de um token e separam tokens.
- Um token é composto de caracteres comuns ou de caracteres do operador
()<>&|;
, mas não de ambos. Por exemplo,foo<@a&>b
consiste nos tokensfoo
(ordinário),<
(operador),@a
(ordinário),&>
(operador) eb
.
Depois, há regras adicionais sobre aspas: caracteres especiais perdem seu significado se forem citações, com regras diferentes dependendo do tipo de cotação. Por exemplo, foo'&&'bar\|qux
é um único token com a seqüência de caracteres foo&&bar|qux
.