Parece que o modo de autenticação pode ser determinado / alterado, verificando o valor de uma chave do Registro.
Dentro do Management Studio, se eu alterar meu banco de dados local do Windows somente para Misto e fazer o script da alteração para uma nova janela de consulta, ele gerará a seguinte consulta.
EXEC xp_instance_regwrite
N'HKEY_LOCAL_MACHINE'
, N'Software\Microsoft\MSSQLServer\MSSQLServer'
, N'LoginMode'
, REG_DWORD
, 2
Se você não tiver o SSMS instalado, talvez ainda tenha sqlcmd instalado. Invocação seria algo como
sqlcmd.exe -S MyServer -d master -Q "EXEC xp_instance_regwrite N'HKEY_LOCAL_MACHINE', N'Software\Microsoft\MSSQLServer\MSSQLServer', N'LoginMode', REG_DWORD, 2"
Pode ser necessário usar xp_regwrite vs xp_instance_regwrite, dependendo se você tem várias instâncias em um servidor (meu exemplo). Este artigo sobre o sswug mostra-o usando xp_regwrite.
Se você não tiver o sqlcmd / osql etc instalado, poderá editar o registro diretamente, mas certifique-se de fazer o backup antes de fazer alterações.
Por fim, a instância precisa ser reiniciada antes que a alteração entre em vigor.