ELK日志服务内存参数配置

栏目:云苍穹知识作者:金蝶来源:金蝶云社区发布:2024-09-23浏览:1

ELK日志服务内存参数配置

1 背景

  • 部分客户由于日志数据量过大,苍穹环境默认安装的ELK(es、logstash、kafka)服务内存配置较小,日志数据压力过大时部分日志服务可能会发生OOM内存溢出宕机。


2 解决方案

  • 需要调整优化ELK服务内存参数。


3 关键操作

(1)优化es内存参数,由于es内存消耗大,重点增加此服务内存参数值

  • 步骤1:

    修改es jvm参数文件 

    参考路径 /kingdee/elk/elasticsearch/elasticsearch-6.8.18/config/jvm.options


  • 步骤2

    调大-Xms1g、-Xmx1g默认内存,注意es内存不能超过服务器物理内存一半以上,java最大内存不能超过32g。

    如128g、64g的机器,es内存最大也只能设置到30g左右即可,若为16g的服务器es内存建议设为8g。

       


  • 步骤3

    修改后重启es服务生效

    systemctl restart es


  • 并检查es内存生效参数值

    systemctl status es


     

(2)logstash内存参数

  • 由于logstash消耗低,一般不作修改,如需调整,参数文件为jvm.options,调大到2-3g即可。

    参考路径/kingdee/elk/logstash/logstash-6.8.18/config/jvm.options


(3)kafka内存参数

  • kafka内存参数可调大为2g,默认为1g,参数文件为kafka-server-start.sh,kafka本身内存消耗不大,可根据服务器配置适当调整,一般不用超过4g。

    参考路径/kingdee/elk/kafka/kafka_2.12-2.6.3/bin/kafka-server-start.sh

    export KAFKA_HEAP_OPTS="-Xmx2G -Xms2G"


  • 重启kafka服务生效

    systemctl restart kafka

  • 检查内存值是否生效

    systemctl status kafka



4 注意事项

  • 请在业务空闲时间段操作,勿在业务高峰期执行,部分客户会使用es作为集成日志数据存储使用,另外也会影响苍穹monitor日志的查询使用。


ELK日志服务内存参数配置

1 背景部分客户由于日志数据量过大,苍穹环境默认安装的ELK(es、logstash、kafka)服务内存配置较小,日志数据压力过大时部分日志服务可...
点击下载文档
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息