Cloud Native Database Meetup #4のまとめ

イベントURL:https://cndata.connpass.com/event/236430/ Kafkaなどのストリーミングプラットフォームは、Cloud Nativeなアプリケーション開発においては当然のものとして受け入れられています。 そして、ストリーミングプラットフォームは一貫性や永続性、耐障害性などデータベースと共通する部分があり、かつスケールアウトのために分散処理を前提としています。更に近年ではSQLによるアクセスも可能となっているなど、データベースとの距離は一層近づいています。 続きを読む
0

イントロダクション

うひーマン @norikoni

データベースの実体はログらしい. リプレイできればデータベースとして完全 #CloudNativeDB

2022-03-25 19:07:55

KafkaとksqlDBとStreaming DB - Commit Log Streamを捌くテクノロジー

うひーマン @norikoni

最初のセショーン ksqlDBとStreamingDBのはなし @ShinHashitaniさん #CloudNativeDB

2022-03-25 19:10:24
こば -Koba as a DB engineer- @tzkb

The log is the databaseの元ネタはAuroraですね。 #CloudNativeDB

2022-03-25 19:10:26
うひーマン @norikoni

kafkaはimmutableなのでデータは追加していくのみ なのでログ見たいな感じ #CloudNativeDB

2022-03-25 19:11:39
こば -Koba as a DB engineer- @tzkb

そうそう、分散DBのShardingはKafkaのPartitionなんですよね。 #CloudNativeDB

2022-03-25 19:11:50
うひーマン @norikoni

Kafka==コミットログの分散ストレージ #CloudNativeDB

2022-03-25 19:12:21
こば -Koba as a DB engineer- @tzkb

でもログだけだと消せないし、その辺はどうしてるんだっけ、Kafka(素人目線)。 #CloudNativeDB

2022-03-25 19:12:54
こば -Koba as a DB engineer- @tzkb

音声の問題等あれば、こちらへリプライ下さい。 #CloudNativeDB

2022-03-25 19:13:46
うひーマン @norikoni

kafkaの中からデータを出し入れする. 仕組みを作ろうとするとかなり大変 アプリからすると流れてくるイベントを STATEとして扱える ksqlDB #CloudNativeDB

2022-03-25 19:14:57
うひーマン @norikoni

1連の決済イベントが発生 ・PUSH  ・イベントとして定義  ・ストリームにイベント流し込む ・PULL  ・SELECTで集約内容を取り出す #CloudNativeDB

2022-03-25 19:18:23
こば -Koba as a DB engineer- @tzkb

結果がSnapshotなのがPullクエリ、StreamなのがPushクエリみたいな感じ? #CloudNativeDB

2022-03-25 19:18:27
しまうま (NAGAO) @shimauma_Zzzzz

commit じゃなく emit なんだなー おもしろい #CloudNativeDB

2022-03-25 19:18:46
Tanayan @tananyan29

Push は イベントごと Pull は 取得時点の総イベント情報みたいな感じかしら #CloudNativeDB

2022-03-25 19:19:06
こば -Koba as a DB engineer- @tzkb

NativeにKafkaからデータを取ってきたければ、Consumerで出来るけど、抽象度をあげて簡単に扱えるようにするのがKafka Streamsだったり、ksqlDBだったりということ。 #CloudNativeDB

2022-03-25 19:21:11
not rogue @not_rogue

ksqlDBはKafkaStreams/Connectの上にあるスタック、Kafka Streams/ConnectはProducer/Consumerの上にあるスタック #CloudNativeDB

2022-03-25 19:21:11
うひーマン @norikoni

kafkaStreams forで回してデータを取るものを抽象化している #CloudNativeDB

2022-03-25 19:21:34
Nobuhiro Sue @nobusue

Kafka Streamsはストリーム処理の基盤としてシンプルでいいと思います #CloudNativeDB

2022-03-25 19:23:51
うひーマン @norikoni

・Topology 並列処理しながら分散処理できる 入口がKafkaのTopicで出口もKafkaのTopic #CloudNativeDB

2022-03-25 19:24:07
1 ・・ 7 次へ