Use o RCDefaultApp do RubiCode ( link ) para configurar os manipuladores padrão para diferentes "protocolos" como http:
, mailto:
, etc.
Não é 100% positivo que você possa desativar completamente o manipulador de protocolo, mas você pode redirecioná-lo definitivamente para algo diferente de Mail.app.