Em teoria, deveria funcionar. Ou seja, se o disco de 3,5 polegadas estiver conectado corretamente, quando você conectar o USB conectando o disco externo ao seu computador, o Ubuntu deve reconhecê-lo. Então, ele deve aparecer na barra lateral, ou quando você abre uma pasta, você deve vê-lo em 'dispositivos'.
Se isso não está acontecendo, então eu acho que é um problema de hardware e não um problema com o Ubuntu. Para verificar isso, você pode tentar conectá-lo em um computador diferente e ver se funciona lá.