Você pode usar PackageMaker no OS X. Para algo compatível com linux / Mac, eu acho que você tem que escrever um script de shell para fazer a instalação para você.
Eu desenvolvi um programa com o Xulrunner para que ele seja executado nesses sistemas operacionais, mas agora, se você quiser instalá-lo no Linux / Mac, será necessário copiar manualmente os arquivos e criar atalhos.
Existe uma maneira de aliviar isso?
Você pode usar PackageMaker no OS X. Para algo compatível com linux / Mac, eu acho que você tem que escrever um script de shell para fazer a instalação para você.
Para o Mac, se você puder instalar o programa apenas arrastando-o para a pasta Aplicativos (por exemplo), então, por todos os meios, não escreva um instalador.
Para facilitar, você pode colocar o programa em um arquivo de imagem de disco (.dmg), talvez com uma imagem de fundo agradável que instrua o usuário a arrastar o programa para a pasta Aplicativos. Adicione um atalho à pasta Aplicativos também.
Veja alguns programas populares para exemplos.
Em geral, o mundo Mac despreza os instaladores. Os usuários de Mac querem poder copiar um programa onde quiserem, em vez de clicar em um instalador.
Os usuários do Linux geralmente esperam compilar um programa a partir do código-fonte ou usar um gerenciador de pacotes para instalar aplicativos.