发布说明 - Kafka - 2.3.1版本

半兽人 发表于: 2019-10-30   最后更新时间: 2019-10-30  

2019年10月24号,发布Kafka 2.3.1

以下是2.3.1版本中解决JIRA问题的摘要,有关该版本的完整文档,入门指南以及关于该项目的信息,请参考Kafka官方文档,或kafka中文教程。

有关升级的注意事项:在升级你的集群之前,请仔细阅读此版本的升级文档。升级有关不兼容性和破坏性的变更,性能变化以及可能影响Kakfa生产的任何其他变化。

新功能

[KAFKA-8952] - 发现jackson-databind-2.9.9的漏洞

改进

[KAFKA-8676] - 避免停止不必要的ConnectorsTasks

bug

[KAFKA-5998] - /.checkpoint.tmp Not found exception
[KAFKA-6290] - Kafka Connect类型转换应支持逻辑类型
[KAFKA-6605] - Flatten SMT无法正确处理为空的字段
[KAFKA-7157] - Connect TimestampConverter SMT不能处理空值
[KAFKA-7941] - 由于broker不可用,当获取offset失败时,Connect KafkaBasedLog工作线程终止
[KAFKA-8053] - 当主题不存在时,kafka-topics.sh会给出令人困惑的错误信息
[KAFKA-8262] - 不稳定测试MetricsIntegrationTest#testStreamMetric
[KAFKA-8263] - 不稳定测试MetricsIntegrationTest#testStreamMetricOfWindowStore
[KAFKA-8325] - 从不完整的集合中移除失败。
[KAFKA-8412] - 在关闭生产者之前进行刷新时,关闭时仍会引发nullpointer异常
[KAFKA-8523] - 遇到逻辑删除事件时,InsertField转换失败
[KAFKA-8530] - Consumer应在OffsetFetch中处理认证错误
[KAFKA-8550] - Connector验证因使用别名转换器而失败
[KAFKA-8570] - 当日志包含乱码消息格式时,Downconversion转换可能会失败
[KAFKA-8586] - Source task生产者默默发送消息失败
[KAFKA-8591] - 使用WorkerConfigTransformer重新加载连接器配置时的NPE
[KAFKA-8592] - Broker动态配置无法根据KIP-421解析变量
[KAFKA-8602] - StreamThread宕,是因为Restore Consumer未订阅任何topic
[KAFKA-8615] - 变更以跟踪分区时间间隔TimestampExtractor
[KAFKA-8620] - StreamThread状态更改中的竞争条件
[KAFKA-8635] - 在事务请求之前查找协调器时不必要的等待
[KAFKA-8637] - WriteBatch对象泄漏堆外内存
[KAFKA-8649] - 从Kafka Streams 2.0.0 -> Kafka Streams 2.1.0滚动更新时出错
[KAFKA-8653] - JoinGroup v0重新平衡超时处理中的回归
[KAFKA-8662] - 如果先前的发送属于未经授权的topic,则发送失败
[KAFKA-8670] - 如果集群上不存在任何topic,则kafka-topics.sh在描述所有主题时会显示IllegalArgumentException
[KAFKA-8678] - LeaveGroup请求getErrorResponse在节流时间和错误设置上不正确
[KAFKA-8715] - 由于broker中的错误,静态消费者无法加入组
[KAFKA-8724] - 从 2.0-> 2.3升级后,尝试清理__consumer_offsets分区时,日志清理器线程死亡
[KAFKA-8731] - InMemorySessionStore在启动时引发NullPointerException
[KAFKA-8736] - PerformanceThreadCache使用`size()`进行空缓存检查
[KAFKA-8774] - 如果配置值包含其他字符,则Connect REST API会在任务终结点中公开明文secrets
[KAFKA-8788] - 通过大量分区优化客户端元数据处理
[KAFKA-8791] - RocksDBTimestampedStore应在常规模式下打开新的stores
[KAFKA-8802] - ConcurrentSkipListMap显示缓存和内存中的性能下降
[KAFKA-8816] - StreamTask间接更新RecordCollector偏移量
[KAFKA-8824] - 配置supress后,InMemoryTimeOrderedKeyValueBuffer会传空值
[KAFKA-8861] - 修复片测试RegexSourceIntegrationTest.testMultipleConsumersCanReadFromPartitionedTopic
[KAFKA-8875] - CreateTopic API应该在副本之前检查topic是否存在
[KAFKA-8896] - coordinator移动后出现NoSuchElementException
[KAFKA-8950] - KafkaConsumer停止获取
[KAFKA-8974] - Sink Connectors无法处理带有空格的topic列表
[KAFKA-9014] - SourceTask.poll返回空列表时,由SourceRecordWriteCounter引发AssertionError
[KAFKA-9053] - AssignmentInfo#encode对LATEST_SUPPORTED_VERSION进行硬编码


您需要解锁本帖隐藏内容请: 点击这里
本帖隐藏的内容




上一条: 到头了!
下一条: 发布说明 - Kafka -2.3.0版本

  • 你好,我按照你 https://www.orchome.com/54 这个文档配置的KafkaOffsetMonitor 但是监控不到group, kafka 版本2.3.1 KafkaOffsetMonitor 是从你网盘下载的。
    启动脚本:

    java -cp -assembly-0.3.0-SNAPSHOT.jar \
         com.quantifind.kafka.offsetapp.OffsetGetterWeb \
         --offsetStorage kafka \
         --zk xx:2181,xx:2181,xx:2181 \
         --port 8089 \
         --refresh 10.seconds \
         --retain 2.days
    

    用命令在服务端看到情况:

    kafka-consumer-groups.sh --bootstrap-server xx:9092,xx:9092,xx:9092  --list
    

    有结果:
    用如下命令也可以看到消费组对应的情况:

    sh kafka-consumer-groups.sh --bootstrap-server xxx:9092,xxx:9092,xx:9092  --group csharp-consumer --describe
    

    但是KafkaOffsetMonitor 中看不到消费组信息

    • 嗯,你排查的方式都没有问题,新版kafka2.3.1我没尝试过是否兼容,明天我试试。
      有个前提,你的kafka集群必须有活跃的消费者组,不然确实是会显示空白。