鍍金池/ 問答/Java  Python/ 一個服務假死問題,服務突然沒流量,求排查方案

一個服務假死問題,服務突然沒流量,求排查方案

我寫了一個服務調用elasticsearch做增刪改查的,結果前些天有一起假死事件,現(xiàn)象是服務全都沒流量了,請求進不來,rpc服務隊列里面堆積了好多請求都超時了。過了十幾分鐘后這個現(xiàn)象自己就緩解了。

當時的GC頻率不高都是年輕帶GC,qps也屬于正常的范圍,日志記錄的耗時較長的查詢或修改 但是我再拿去執(zhí)行的時候發(fā)現(xiàn)其實耗時并不長,也許是因為請求超時了所以才會統(tǒng)計到耗時較長吧,感覺這個線索不具備可靠性。

還有一種可能,就是服務層和es集群的連接數(shù)滿了,導致那一會兒請求es集群的任務都阻塞了?我的客戶端是這么寫的:

public class ClientManager {

private static Logger logger = LogManager.getLogger(ClientManager.class.getName());

private static final String CLUSTER_NAME = "cluster.name";
private static final String ES_SERVICES = "es.services";

private Client client;

private static class ClientManagerHolder {
    private ClientManagerHolder() {
    }

    private static final ClientManager INSTANCE = new ClientManager();
}

public static Client getClient() {
    return ClientManagerHolder.INSTANCE.client;
}

private ClientManager() {
    if (client == null) {
        createClient();
    }
}

private void createClient() {
    // init

    String configPath = Path.getCurrentPath() + "/../config/app.properties";
    logger.info("######## appConfig配置文件路徑  " + configPath);
    AppConfig.init(configPath);

    try {
        String clusterName = AppConfig.getProperty(CLUSTER_NAME);
        String services = AppConfig.getProperty(ES_SERVICES);
        logger.debug("es.services:" + services);
        logger.debug("clusterName:" + clusterName);
        Settings settings = Settings.settingsBuilder().put("cluster.name", clusterName)
                .put("client.transport.sniff", true).put("client.transport.ignore_cluster_name", true)
                .put("client.transport.ping_timeout", "1s").put("client.transport.nodes_sampler_interval", "1s")
                .build();
        // add delete-by-query plugin
        TransportClient c = TransportClient.builder().settings(settings).addPlugin(DeleteByQueryPlugin.class)
                .build();
        String[] servicesArray;
        if (StringUtils.isNotBlank(services)) {
            servicesArray = services.split(",");
            for (String service : servicesArray) {
                String[] serviceInfo = service.split(":");
                if (serviceInfo.length > 1) {
                    c = c.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName(serviceInfo[0]),
                            Integer.valueOf(serviceInfo[1])));
                }
            }
            client = c;
            logger.info("connect to es cluster success.");
        } else {
            logger.error(" has no services info.");
        }

    } catch (Exception e) {
        logger.error("create es client failed.", e);
    }
}

}
大致就是做了個單例,但是我不太清楚esclient 有沒有做連接池 或者請求關閉等操作?總之我是沒有手動調用過close方法的,不知道是不是這塊導致連接池資源都釋放不掉了。

es有關連接池部分的配置我也發(fā)一下吧:
threadpool:

    index:
            type: fixed
            size: 24
            queue_size: 500
    bulk:
            type: fixed
            size: 24
            queue_size: 500

action.write_consistency: one
index.store.type: mmapfs
indices.memory.index_buffer_size: 10%
index.translog.flush_threshold_ops: 50000
index.translog.flush_threshold_size: 500mb
index.translog.flush_threshold_period: 10m
indices.memory.min_translog_buffer_size: 512m
indices.memory.max_translog_buffer_size: 512m
indices.queries.cache.size: 512m
indices.queries.cache.count: 5000

求大神幫忙分析

回答
編輯回答
貓館

你要做的是用jstack查看線程狀態(tài),并且結合當時的io與cpu情況做進一步的分析。

2017年5月19日 01:38