Estou assumindo que você quer dizer soquetes locais unix aqui.
In linux, when making connection to local sockets, does such a thing as keepalives exist?
Não, as keepalives impedem o tempo limite do lado remoto. Como o host conhece o status de ambos os lados da conexão, um keepalive é redundante.
Would having a connection kept alive remove (even a tiny bit) some overhead related to creation / teardown of the connection?
Sim, com o custo de manter mais descritores de arquivos, o que provavelmente é um custo muito barato em termos práticos. A configuração de uma conexão e o fechamento incorrem em 5 chamadas de sistema (abrir e conectar no cliente, aceitar no servidor, fechar no cliente / servidor) que, mantendo a conexão, é evitado até que seja necessário.