Supondo que você tenha feito o download legalmente, o install.linux provavelmente é um script que você precisa executar, que autoextraia e executa um instalador. Não parece que eles fornecem um pacote debian que você instalaria com o dpkg, e modelsim não sendo software livre / de código aberto, não está disponível nos arquivos do Ubuntu, então o apt-get install não funcionará para instalá-lo. Você provavelmente precisa fazer o seguinte:
chmod +x install.linux
sudo ./install.linux