Isso pode ser feito através da variável TERM. Normalmente, ele seria configurado para "xterm", mas em um terminal de 256 cores você pode configurá-lo para "xterm-256color". O banco de dados terminfo tem uma entrada apropriada para isso, e muitos programas mudam automaticamente para o modo de 256 cores quando vêem "xterm-256color".
(O Terminal.app realmente não tem suporte para 256 cores?)