Você tem certeza disso? AFAIK as tabelas temporárias estão existindo enquanto precisavam - para uma consulta, mas depois elas desaparecerão. Se você tiver tantas consultas ativas que precisem de tabelas temporárias de 30GB que causem muito mais problemas do que usar todo o espaço livre (eu quis dizer disco IO etc.)
Você ainda pode jogar com o ulimit, mas precisará reiniciar o serviço pelo menos, então não tenho certeza se isso é melhor do que criar cotas.