HTML5 e possivelmente versões anteriores do HTML especificam um método para armazenar dados localmente (como arquivo ou banco de dados). Cookies e dados da sessão já existem há algum tempo.
E sim, eles podem rastrear você até certo ponto. Se eles não pudessem nenhum dos seus serviços gratuitos seriam gratuitos. Eles vendem anúncios com base em quem você é, o que gosta de fazer e o que procura.