Primeiro de qual aplicativo você está instalando? É sempre preferível instalar através do Gerenciamento de Pacotes nativo, pois o Gerenciador de Pacotes irá lidar com o local, atualizações, caminhos e lançadores (atalhos) para você. Também atualizações seriam tratadas. Você deve idealmente procurar o pacote no Centro de Software ou no Synaptic. Os PPAs podem ser usados se o software não estiver no repositório padrão.
No entanto, se tiver certeza de instalar este pacote, use /opt directory, /opt/appname por exemplo. /opt seria adequado para esse tipo de instalação. Lançadores podem ou não ser criados dependendo do instalador. Você pode criar um lançador manualmente se o instalador não criar. Você também pode usar $HOME/bin para colocar todos os seus aplicativos.