O OSx não consegue verificar a imagem e lança um erro informando que o arquivo .iso não contém um sistema de arquivos reconhecível. Este link deve ajudar.
Acabei de fazer o download do Ubuntu no meu mac e tentei abri-lo, mas ele diz que não pode ser aberto porque "não tem sistemas de arquivos montáveis". Eu não tenho idéia do que isso significa, alguém pode ajudar?
Estou assumindo que você baixou o ISO. O que você está tentando tirar disso? Se o seu objetivo é instalar o Ubuntu, você precisa gravar o ISO em um disco ou colocá-lo em uma unidade flash para inicializá-lo. Não há nenhum 'pacote de instalação' para o Ubuntu no mac.
Se você quiser tentar ou instalar o Ubuntu no seu mac, primeiro você tem que gravar o iso em um CD, reiniciar e manter pressionada a tecla C quando ela for iniciada antes de aparecer o logotipo da Apple e inicializar a partir do CD com o Ubuntu iso.