Parece que sua GPU está superaquecendo. Use ferramentas como GPU-Z , Speedfan , Real Temp , ou MSI Afterburner para monitorar a temperatura da GPU e CPU enquanto você está fazendo uma conversão.
Para evitar o superaquecimento da GPU, verifique se o computador está bem ventilado, está localizado em um local fresco e tem um número suficiente de ventiladores.