Você parece estar executando uma mistura de repositórios para o Xenial (16.04) e o Yakkety (16.10). Em particular, seu sistema quer instalar a versão 3.4.10 do libgnutls30, que é dos arquivos do Xenial, mas a versão do FileZilla que você está tentando fazer o download (3.25.1) é de um arquivo Yakkety e requer uma versão mais nova do libgnutls.
Você deve examinar suas fontes e determinar qual versão do Ubuntu você está realmente executando (Yakkety é em fim de vida) e definir as fontes de uma maneira apropriada para o seu SO.