O Office Communicator é algo que eu uso no trabalho. Eu explorei todas as configurações que encontrei e não vejo opções em nenhum lugar para modificar esse limite. Talvez seja difícil e você não pode mudá-lo?
Eu fiz uma pergunta sobre emoticons extras no comunicador de escritório e não havia como expandi-los, já que os internos eram as únicas opções. Como você usa mais emoticons no Office Communicator?