基于 EFK 的网络安全日志数据的实时处理方法

许 春霞(西门子(中国)有限公司苏州分公司,中国)

DOI: http://dx.doi.org/10.12349/iser.v6i5.5699

Article ID: 5699

摘要


面对万物互联时代的海量网络安全日志的实时处理需求,传统ELK(Elasticsearch、Logstash和Kibana)日志架构因Logstash组件资源占用率高、数据处理吞吐量受限等问题,难以满足低延迟、高并发的日志分析要求。本文提出一种基于Flink流式计算的EFK架构(Elasticsearch、Flink、Kafka和Kibana),通过重构日志处理链路与优化系统扩展性,实现网络安全日志的高效采集、实时分析与精准威胁检测。实验结果表明,在模拟每秒千万级日志的高并发场景中,本方案较传统ELK架构呈现显著优势。

关键词


网络安全;ELK机构;Flink流计算;EFK架构;威胁检测

全文:

PDF

参考


Orange Cyberdefense. Security Navigator 2023.

Sommer R, Paxson V. Outside the Closed World: On Using Machine Learning for Network Intrusion Detection. S&P 2010.

陈敬. 基于ELK的日志分析与异常检测系统的设计与实现(D). 西安电子科技大学, 2022

黄娅婷. 面向Kafka消息系统的性能优化方法研究(D). 桂林电子科技大学, 2023

Karim M R, et al. Real-time Log Analysis using Elasticsearch. ICDCN 2021.

Apache Flink®.https://flink.apache.org/.2024.

秦政,许利杰,等. 面向Apache Flink流式分析应用的高吞吐优化技术(J). 软件学报, 2024.

高立京,陈志敏,等. 基于Flink的空间科学卫星数据实时处理方法(J). 计算机仿真, 2023, 40(7): 26-31.图 2 不同配置下的数据处理效能


Refbacks

  • 当前没有refback。


版权所有(c)2025 许 春霞

Creative Commons License
此作品已接受知识共享署名-非商业性使用 4.0国际许可协议的许可。