Você deve usar o Gerenciador de Pacotes Synaptic ou o Centro de Software para remover os aplicativos pré-carregados e verificar se você não está removendo nada desejável junto com o programa que você não precisa. Qualquer um dos programas perguntará se algo diferente do programa em questão deve ser removido.
i.e. remover qualquer um dos pacotes 'xdiagnose' ou 'xterm' também removerá o pacote 'ubuntu-desktop'. 'ubuntu-desktop' é um pacote obrigatório se você pretende atualizar para uma nova versão do Ubuntu, então remover isso não é desejável.
Por outro lado, se eu quiser remover o pacote 'shotwell', posso fazê-lo sem afetar o resto do sistema. O mesmo vale para o firefox e para a maioria dos outros aplicativos internos disponíveis no Dash.