百货

  • 如何使用Prometheus监控MongoDB集群

      在实际企业环境中,MongoDB需要多节点部署组成一个集群,可用于确保高可用性、容量扩展、负载均衡和数据备份,此时需要对整个MongoDB集群进行监控,持续关注集群的健康状况,因此我们使用MongoDBExporter将指标转换为Prometheus的数据类型,最后通过Prometheus进行收集M...

    2024-11-15 572
  • 分片集群 MongoDB 自建MongoDB实践

      03更新操作时的$isolated​选项不起作用,这是分片环境中缺少的功能,update,​的$isolated​选项提供了保证,如果我们一次更新多个文档,其他读者和作者将看不到一些更新了新值的文档,而其他文档仍然具有旧值,这是在unsharded​中实现的方式环境是通过持有全局写锁和,或将操作序列...

    2024-11-15 176
  • 如何在Linux中将MySQL迁移到MariaDB

      自从甲骨文收购MySQL后,由于甲骨文对MySQL的开发和维护更多倾向于闭门的立场,很多MySQL的开发者和用户放弃了MySQL,在社区驱动下,促使更多人迁移到MySQL的另一个叫MariaDB的分支,在原有MySQL开发人员的带领下,MariaDB的开发遵循开源的理念,并确保它的二进制格式与MyS...

    2024-11-15 637
  • 网络故障的隐形元凶 MTU配置你了解吗

      背景我司使用的是亚马逊厂商的云服务,厂商的消息队列产品我们并没有用,我们选择自建,自建的好处是更灵活,定制性更广,公司内部有多套Kafka集群,100,broker节点,针对kafka我司也有比较完善的自动化运维管理体系,最近出现过一次业务连接kafka集群频繁超时的情况,在这里记录下处理过程,加深...

    2024-11-15 734
  • 揭秘副本状态机实现原理 ReplicaStateMachine

      副本状态机是Kafka控制器的一部分,专门负责管理集群中所有副本的状态变化,当Kafka中的某些操作,如节点故障、集群扩展、分区重新分配等事件发生时,控制器通过副本状态机来管理和协调副本的状态,副本在集群中可以处于不同的状态,比如从ISR中加入或移除、被标记为不可用等,...。...

    2024-11-15 682
  • 问 Kafka有哪些应用场景 你能说上来几个

      下面我们来总结一下Kafka的一些应用场景,1、日志处理与分析,最常用的场景,下图显示了典型的ELK,Elastic,Logstash,Kibana,堆栈,Kafka有效地从每个实例收集日志流,ElasticSearch使用来自Kafka的日志并为其建立索引,Kibana在ElasticSearch...

    2024-11-15 501
  • 分区状态转换如何实现 PartitionStateMachine

      在面试中,Kafka的Leader选举是一个常见的考点,理解其核心原理和实际实现能够帮助你在面试中脱颖而出,对于生产环境中的Kafka应用,选择正确的Leader选举策略和配置能够显著提升系统的可用性和性能,...。...

    2024-11-15 876
  • Kafka放弃Zookeeper后如何存储主题与消费组呢

      由于笔者公司目前使用的kafka版本是2.2.1,故当下关于kafka的内核研究目前主要是基于该版本,当然该专栏还会继续关注Kafka3.0,我在使用kafka时发现客户端可以不依赖Zookeeper的情况下完成消息发送、消息消费,众所周知早期的Kafka,所有的元信息,topic、消费组、集群,等...

    2024-11-15 334
  • Kafka 三高架构设计剖析

      Kafka架构中的一般概念,架构KafkaTopicPartitionsLayout主题Kafka将Topic进行分区,分区可以并发读写,KafkaConsumerOffsetconsumeroffsetProducer、Consumer、ConsumerGroup、Topic、Partition,...

    2024-11-15 419
  • 高性能背后的原理 六个技术点带你理解 Kafka

      大家好,我是君哥,Kafka是一款性能非常优秀的消息队列,每秒处理的消息体量可以达到千万级别,今天来聊一聊Kafka高性能背后的技术原理,Kafka收发消息都是批量进行处理的,我们看一下Kafka生产者发送消息的代码,privateFuture&lt,RecordMetadata&g...

    2024-11-15 386
  • 解密 Kafka 消息的时序之谜 穿越时间的引擎

      1、介绍Kafka消息延迟和时序性Kafka消息延迟和时序性对于大多数实时数据流应用程序至关重要,本章将深入介绍这两个核心概念,它们是了解Kafka数据流处理的关键要素,1,什么是Kafka消息延迟,Kafka消息延迟是指消息从生产者发送到消息被消费者接收之间的时间差,这是一个关键的概念,因为它直接...

    2024-11-15 635
  • 牢记这三种方法!即便没有Zookeeper也能运行Kafka

      ​​​从Kafka2.8开始,在没有Zookeeper的情况下也可以运行Kafka集群,本文将介绍三种方法,它们可以在使用容器单节点集群的情况下运行Kafka,ApacheZookeeper作为Kafka的依赖项一直用来管理ApacheKafka的元数据,值得庆幸的是从Kafka2.8版本开始,就可...

    2024-11-15 385
  • NetworkClient 源码之 图解 Kafka 网络通信组件架构设计

      completedSends集合保存的是最近一次调用poll,方法中发送成功的请求,发送成功但还没有收到响应的请求集合,而InflightRequests集合存储的是已经发送但还没收到响应的请求,每个请求发送都需要等待前面的请求发送完成,这样就能保证同一时间只有一个请求正在发送,因为Selector...

    2024-11-15 228
  • 协作文档编辑 Docs系统设计详解 Google

      1协作文档编辑服务的设计方式为所有用户提供文档编辑服务,所有用户都连接到一个中心服务器,该服务器负责存储和处理文档数据,用户通过连接到该服务器来协作编辑文档,提供更好的安全性和可控性,但有单点故障1.2点对点技术设计以便在单个文档上协作,将文档数据分散存储在多个用户设备,每个用户都可直接编辑文档并将...

    2024-11-15 174
  • 大数据必知必会之Kafka

      每一条消息被发送到broker之前,会根据分区规则选择存储到哪个具体的分区,如果分区规则设定得合理,所有的消息都可以均匀地分配到不同的分区中,如果一个主题只对应一个文件,那么这个文件所在的机器I,O将会成为这个主题的性能瓶颈,而分区解决了这个问题,在创建主题的时候可以通过指定的参数来设置分区的个数,...

    2024-11-15 179

联系我们

QQ号:***

微信号:***

工作日:9:30-18:30,节假日休息