Parece que a tabela temporária necessária para concluir esta ação é o que está cheio, sem dúvida porque você não tem memória suficiente para isso. Modificar uma tabela com essa quantidade de dados não é realmente uma boa ideia devido ao tempo e aos recursos necessários. Seria melhor despejar (exportar) a tabela, criar uma nova com suas especificações desejadas e carregar os dados de volta.