A verdadeira razão (e o que pode ser a causa raiz do uso do LaTeX) é que muitas fontes unix pré-unicode (tanto para o console quanto X) e dois vetores comuns de codificação Postscript da Adobe tiveram cotação de abertura / fechamento tipográfica os glifos nessas posições, então 'this' se pareceria com ’this’ e ''this'' se pareceria com ‘‘this’’ ou ‛‛this’’ , o que era (especialmente em uma fonte proporcional em que eles tinham apenas 2 a 3 pixels de largura) para tipograficamente corrigir como você poderia voltar então.
Isso remonta ainda mais às máquinas de escrever, nas quais o ' glyph costuma ser definido em um ângulo para acomodar seu uso como um acento agudo superestressante.
Veja também: