kafka高可用集群搭建
kafka高可用集群搭建这篇博文主要是为了后面的 `elk` 做准备,我们这里搭建一个 `kafka` 集群,使用2个节点,还是前面的节点。主要是为了后面做数据缓冲。这里不对 `mq` 的详细进行介绍,必要会对 `kafka` 相关配置进行描述。kafka集群配置、kafka错误处理、kafka日志处理 ...
kafka高可用集群搭建这篇博文主要是为了后面的 `elk` 做准备,我们这里搭建一个 `kafka` 集群,使用2个节点,还是前面的节点。主要是为了后面做数据缓冲。这里不对 `mq` 的详细进行介绍,必要会对 `kafka` 相关配置进行描述。kafka集群配置、kafka错误处理、kafka日志处理 ...
ELK7.x日志系统搭建 3. 采用轻量级日志收集当我们在对系统日志进行处理的时候,我们需要结合成本考虑方案,前期如果使用 `Logstash` 进行日志收集的话会耗费较多的机器性能,我们这里选择优化一下日志的采集。简单介绍一下即将出场的家伙: `filebeat`首先 `filebeat` 是 `Beats` 中的一员。 ...
ELK7.x日志系统搭建 2. Nginx、Cluster等日志收集接着上篇文章,我们把环境搭建好后,我们需要对一些应用程序进行日志收集了,方便我们对整个项目的监控和管理。虽然这种东西在单节点项目上带来的好处比带来的成本要低的低,但是对于我们开发一些分布式的项目是有极大的便利的。 我们想象一个场景:为了高性能我们引入了负载均衡 + N个服务器副本,如果程序出现错误,我们首先得先定位到是哪台服务器,然后定位到哪个程序,最后查看对应日志,开始排错。这样中心化系统的好处就体现出来了。 ...
ELK7.x系统搭建 1. elk基础搭建在本篇文章里,我将详细介绍ELK搭建分布式日志系统Elasticsearch# elasticsearch是一个高度可扩展全文搜索和分析引擎,基于Apache Lucene 构建,能对大容量的数据进行接近实时的存储、搜索和分析操作,可以处理大规模日志数据,比如Nginx、Tomcat、系统日志等功能。Logstash数据收集引擎。它支持动态的从各种数据源搜集数据,并对数据进行过滤、分析、丰富、统一格式等操作,然后存储到用户指定的位置;支持普通log、自定义json格式的日志解析。 ...
憧憬博客Nginx到Tengine的迁移`Tengine` 是由淘宝网发起的 `Web` 服务器项目。它在 `Nginx` 的基础上,针对大访问量网站的需求,添加了很多高级功能和特性。据说 `Tengine` 的 `IO` 性能比 `Nginx` 提升了几十倍、淘宝流量高峰全靠 `Tengine` 应对。 一直在网上听说 `Tengine` 优秀的性能,淘宝自家都使用的 `web server`,其稳定性和性能已经在淘宝网,天猫商城等得到了很好的检验。这个时候博主好奇心就来了,非得把博客的 `Nginx` 迁移到 `Tengine` 不可,小小体验一下 `Tengine`。 ...