O CoreOS é uma distribuição Linux especializada em rodar containers, o fleet e o etcd fornecem serviços de cluster além disso. Ansible implanta um estado definido para hosts remotos, principalmente Linux, mas também um pouco Unix e Windows.
Ansible não fornece serviços em si ou requer um agente no host. O etcd fornece estado compartilhado e frota de um sistema init, com vários nós.
Eles podem se complementar se você implantar e manter nós CoreOS com Ansible. Ou eles podem competir se você implantar com Ansible no nível da máquina (virtual) e não em contêineres. Ou use algo totalmente diferente, há muitas maneiras de implantar coisas.