You do trust us with your data already.
O que eles querem dizer com isso é que seria muito, muito, muito fazer algo que você não quer que eles façam.
Tudo o que precisam fazer é fazer com que o software de atualização solicite sua senha sudo e a Canonical pode fazer qualquer coisa com seu sistema: excluir arquivos do sistema, copiar seus documentos para um servidor na nuvem, excluir seus favoritos etc.
Obviamente, eles não farão isso, pois também acabarão com o Ubuntu como um sistema operacional (imagine a folga que eles obterão de Richard Stallman: D).
O EFF tem um ponto embora. A maneira como é configurada não é sobre a nossa privacidade, mas sobre como lucrar com a Canonical e / ou a Aamazon. A maneira como é configurada agora é "qualquer pessoa que não queira que isso possa removê-la" (desativação). Mas a privacidade seria melhor protegida se fosse "se você quiser, pode ativá-lo com esta ação" (opt-in).