O problema que você está tendo é que o fail2ban espera que a linha contenha um registro de data e hora válido e que suas linhas de log não atendam a esses critérios quando começam com <HOST>
.
In order for a log line to match your failregex, it actually has to match in two parts: the beginning of the line has to match a timestamp pattern or regex, and the remainder of the line has to match your failregex. If the failregex is anchored with a leading ^, then the anchor refers to the start of the remainder of the line, after the timestamp and intervening whitespace
Você precisará fornecer ao fail2ban um arquivo de log que atenda aos requisitos de entrada.