0%

消费模型

  1. 一个消费者不分区的基础模型

    问题:消费速率太慢

    一个消费者不分区的基础模型
    一个消费者不分区的基础模型
  2. 一个消费者消费多个分区

    问题:数据乱序

一个消费者消费多个分区
一个消费者消费多个分区
阅读全文 »

生产数据案例

改pom.xml

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
<dependencies>
<!-- https://mvnrepository.com/artifact/org.apache.kafka/kafka -->
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka_2.13</artifactId>
<version>3.4.0</version>
</dependency>
<!-- https://mvnrepository.com/artifact/org.apache.kafka/kafka-clients -->
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
<version>3.4.0</version>
</dependency>
<!-- https://mvnrepository.com/artifact/org.apache.logging.log4j/log4j-slf4j-impl -->
<dependency>
<groupId>org.apache.logging.log4j</groupId>
<artifactId>log4j-slf4j-impl</artifactId>
<version>2.20.0</version>
<scope>test</scope>
</dependency>
</dependencies>
阅读全文 »

Docker启动Kafka

1
2
3
# 172.17.0.2:2181是通过docker inspect zookeeper --format="{{ .NetworkSettings.IPAddress }}"
查看的
docker run -d --name kafka -p 9092:9092 -e KAFKA_BROKER_ID=0 -e KAFKA_ZOOKEEPER_CONNECT=172.17.0.2:2181 -e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://localhost:9092 -e ALLOW_PLAINTEXT_LISTENER=yes -e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 bitnami/kafka

简介

阅读全文 »

数据仓库&数据库

数据仓库和数据库从文字上来看是比较相似的,所以一般不是很好区分,说起它们的区别通常会提到OLTP和OLAP

OLTP:On-Line Transaction Processing,联机事务处理,主要是业务数据,需要考虑高并发、事务

阅读全文 »

概述

原生NIO存在的问题

  1. NIO的类库和API繁杂,使用麻烦
  2. 需要具备其它的额外技能如Java多线程编程、网络编程等
  3. 开发工作量和难度都非常大,如客户端面临断连重连、网络闪断、半包读写、失败缓存、网络拥塞和异常流的处理等。
  4. JDK NIO存在一些Bug
阅读全文 »

NIO概述

阻塞IO

通常在进行同步I/O操作时,如果读取数据,代码会阻塞直到有可供读取的数据。同样,写入调用将会阻塞直到数据能够写入。传统的Server/Client模式会基于TPR(Thread per Request),服务器会为每个客户端请求建立一个线程,由该线程单独负责处理一个客户请求。

阅读全文 »

权限管理过程中的相关概念

主体(principal)

使用系统的用户或设备或从其它系统远程登录的用户等。简单说就是谁使用系统谁就是主体。

阅读全文 »

记录WSL2+Docker网络问题

刚在WSL2上安装Docker时没有问题,主机也能正常访问docker容器中的镜像。

电脑重启过后,再重新在wsl2中启动docker和镜像时,主机就无法访问了

探索过程

阅读全文 »