Apache Kafka 0.8.1.1 desligamento limpo não está funcionando

Question

Eu tenho um:

• instância única do Apache Kafka (2.9.2-0.8.1.1) instalada a partir da origem, usando a configuração padrão ( server.properties etc.),
• Zookeeper (3.4.5 + dfsg-2) independente, instalado a partir do pacote

.. rodando em um host Ubuntu 14.04 LTS com um nome hostname1 .

Eu tento desligar Kafka de forma limpa, mas não consigo.

Eu tentei 2 métodos:

• enviando SIGINT - mas Kafka simplesmente o ignora (não menciona receber o sinal em nenhum log, continua em execução) [SIGTERM funciona, mas esse não é o ponto]

• usando a ferramenta Controlado por desligamento - mas ele falha com o seguinte ...

.. stacktrace:

[2015-02-03 12:55:49,461] ERROR Operation failed due to controller failure (kafka.admin.ShutdownBroker$)
java.io.IOException: Failed to retrieve RMIServer stub: javax.naming.ServiceUnavailableException [Root exception is java.rmi.ConnectException: Connection refused to host: hostname1; nested exception is:
        java.net.ConnectException: Connection refused]
        at javax.management.remote.rmi.RMIConnector.connect(RMIConnector.java:369)
        at javax.management.remote.JMXConnectorFactory.connect(JMXConnectorFactory.java:268)
        at kafka.admin.ShutdownBroker$.kafka$admin$ShutdownBroker$$invokeShutdown(ShutdownBroker.scala:56)
        at kafka.admin.ShutdownBroker$.main(ShutdownBroker.scala:109)
        at kafka.admin.ShutdownBroker.main(ShutdownBroker.scala)
Caused by: javax.naming.ServiceUnavailableException [Root exception is java.rmi.ConnectException: Connection refused to host: hostname1; nested exception is:
        java.net.ConnectException: Connection refused]
        at com.sun.jndi.rmi.registry.RegistryContext.lookup(RegistryContext.java:118)
        at com.sun.jndi.toolkit.url.GenericURLContext.lookup(GenericURLContext.java:203)
        at javax.naming.InitialContext.lookup(InitialContext.java:411)
        at javax.management.remote.rmi.RMIConnector.findRMIServerJNDI(RMIConnector.java:1929)
        at javax.management.remote.rmi.RMIConnector.findRMIServer(RMIConnector.java:1896)
        at javax.management.remote.rmi.RMIConnector.connect(RMIConnector.java:286)
        ... 4 more
Caused by: java.rmi.ConnectException: Connection refused to host: hostname1; nested exception is:
        java.net.ConnectException: Connection refused
        at sun.rmi.transport.tcp.TCPEndpoint.newSocket(TCPEndpoint.java:619)
        at sun.rmi.transport.tcp.TCPChannel.createConnection(TCPChannel.java:216)
        at sun.rmi.transport.tcp.TCPChannel.newConnection(TCPChannel.java:202)
        at sun.rmi.server.UnicastRef.newCall(UnicastRef.java:341)
        at sun.rmi.registry.RegistryImpl_Stub.lookup(Unknown Source)
        at com.sun.jndi.rmi.registry.RegistryContext.lookup(RegistryContext.java:114)
        ... 9 more
Caused by: java.net.ConnectException: Connection refused
        at java.net.PlainSocketImpl.socketConnect(Native Method)
        at java.net.AbstractPlainSocketImpl.doConnect(AbstractPlainSocketImpl.java:339)
        at java.net.AbstractPlainSocketImpl.connectToAddress(AbstractPlainSocketImpl.java:200)
        at java.net.AbstractPlainSocketImpl.connect(AbstractPlainSocketImpl.java:182)
        at java.net.SocksSocketImpl.connect(SocksSocketImpl.java:392)
        at java.net.Socket.connect(Socket.java:579)
        at java.net.Socket.connect(Socket.java:528)
        at java.net.Socket.<init>(Socket.java:425)
        at java.net.Socket.<init>(Socket.java:208)
        at sun.rmi.transport.proxy.RMIDirectSocketFactory.createSocket(RMIDirectSocketFactory.java:40)
        at sun.rmi.transport.proxy.RMIMasterSocketFactory.createSocket(RMIMasterSocketFactory.java:147)
        at sun.rmi.transport.tcp.TCPEndpoint.newSocket(TCPEndpoint.java:613)
        ... 14 more 

    

Answer 1

Para 0.8.1.1 esta ferramenta:

• não funciona imediatamente,
• não é mais necessário.

Citação de "A ferramenta de desligamento controlado não parece funcionar imediatamente" Questão Kafka JIRA :

Do we even need this tool anymore? Currently controlled shutdown is enabled through a config and automatically kicks in during a kill -15 of a Kafka server. I almost think we can get rid of a tool to do controlled shutdown.

Aqui está o que acabei colocando em meu config/server.properties :

controlled.shutdown.enable=true
controlled.shutdown.max.retries=3
controlled.shutdown.retry.backoff.ms=5000

    

Answer 2

A primeira coisa é que usei o sinal errado. Eu deveria ter usado SIGTERM (15) ao invés de SIGINT (2).

Segundo, como @MaasSql apontou, você tem que ativar explicitamente o desligamento controlado no Kafka 0.8.1.1 .

(Para o 0.8.2+ você não precisa fazer isso - está ativado por padrão .)