A tecnologia equivalente ao .net no linux é o framework mono. Não tenho conhecimento de nenhum back-end de banco de dados que possa substituir diretamente o mssql (ou seja, versões abertas do mesmo). É claro que existem muitos sistemas de banco de dados de código aberto disponíveis no linux (mysql e postgresql para citar alguns) que são pelo menos tão potentes, se não superiores ao mssql, em uma ampla variedade de casos de uso.