Definitivamente, use um banco de dados. Há muitos gratuitos, como o MySQL, ou se você quer apenas um computador para trabalhar nele por vez, então o Sqlite é extremamente bom.
Verifique se sua importação funcionou corretamente primeiro, especialmente se houver números não ascii ou grandes no conjunto de dados de entrada.