Você pode clicar com o botão direito do mouse no relógio e escolher Personalizar ícones de notificação . Você pode então percorrer a lista e encontrar o ícone em questão com o respectivo nome do programa ao lado dele.
Você também pode tentar uma das ferramentas mencionadas neste artigo (eu não as testei pessoalmente): link
Anvir: http://www.anvir.com/download.htm (It shows any tray icons created by a process, so you would have to hover over all the processes to find it)
Windows System Tray Scan Utility: http://exodusdev.com/products/windows-system-tray-scan-utility
Se nenhum desses métodos funcionar, talvez você possa atualizar sua pergunta para incluir uma captura de tela do ícone para que alguém possa identificá-la.