Cloud Native Database Meetup #4のまとめ

イベントURL:https://cndata.connpass.com/event/236430/ Kafkaなどのストリーミングプラットフォームは、Cloud Nativeなアプリケーション開発においては当然のものとして受け入れられています。 そして、ストリーミングプラットフォームは一貫性や永続性、耐障害性などデータベースと共通する部分があり、かつスケールアウトのために分散処理を前提としています。更に近年ではSQLによるアクセスも可能となっているなど、データベースとの距離は一層近づいています。 続きを読む
0
前へ 1 2 ・・ 7 次へ
こば -Koba as a DB engineer- @tzkb

中身がRocksDBって、それもはや分散DBなのよ。 #CloudNativeDB

2022-03-25 19:24:26
こたつ&&みかん @kota2and3kan

Kafka Streams、内部で RocksDB 使ってるのか。 #CloudNativeDB

2022-03-25 19:24:33
ぽんず @ponzmild

Kafka Streamsは中にRocksDB入ってるんだ。ここでStateを持ってるのね。 #CloudNativeDB

2022-03-25 19:24:46
こば -Koba as a DB engineer- @tzkb

ksqlDBは何のSQLに準拠してるんだろう。 #CloudNativeDB

2022-03-25 19:25:42
こたつ&&みかん @kota2and3kan

ksqlDB は Server (単体の Java アプリ) として JVM 上で起動するらしい。なるほど。 #CloudNativeDB

2022-03-25 19:26:41
うひーマン @norikoni

・SQLEngine  ・SQLで受けたリクエストを変換  ・KafkaStreamのアプリケーションを作る #CloudNativeDB

2022-03-25 19:27:44
こたつ&&みかん @kota2and3kan

SQL 対応、クエリをパースしたりするところが大変そうだ... #CloudNativeDB

2022-03-25 19:28:27
Nobuhiro Sue @nobusue

パーティション数が同じでないとjoinできないという制約がある、なるほど #CloudNativeDB

2022-03-25 19:30:41
こば -Koba as a DB engineer- @tzkb

うーむ、Joinに必要な条件が直感的に(RDB的に)むずかしい、、 #CloudNativeDB

2022-03-25 19:30:55
こたつ&&みかん @kota2and3kan

ksqlDB、JOIN できるのか。データの構造的に難しい (JOIN できない的な制限がある) ものだと思ってた。すごい。 #CloudNativeDB

2022-03-25 19:31:11
うひーマン @norikoni

・Stream処理とSQLが相いれないところで苦手な処理  ・JOIN   ・制約が大きい  ・GROUP BY   ・重い  ・MaterializedView   ・Pullで制約アリ #CloudNativeDB

2022-03-25 19:31:56
Nobuhiro Sue @nobusue

まーログを舐めるから遅いはずよね > Range Query #CloudNativeDB

2022-03-25 19:33:11
こば -Koba as a DB engineer- @tzkb

SQLだとRangeで指定したくなるけど、パフォーマンス的に難しい。他でも良くある話。 #CloudNativeDB

2022-03-25 19:33:26
うひーマン @norikoni

・Pull Query ・Where句が必須  ・Keyの方がRangeより早い #CloudNativeDB

2022-03-25 19:33:48
Nobuhiro Sue @nobusue

これは、はしたにさんがPoCで苦労した系のクエリーかな? w #CloudNativeDB

2022-03-25 19:36:01
Nobuhiro Sue @nobusue

Splunk高いからデータ絞り込むのは有効そうですね #CloudNativeDB

2022-03-25 19:37:49
うひーマン @norikoni

・マッチしたユースケース  ・ダッシュボードへの速報   ・異なるテーブルからデータを引いてきて集約   ・データソースが複数,対象時間が限られている  ・決済の不正検知   ・業務ルールをSQLで定義できる場合  ・インフラログ活用の最適化   ・Splunkにデータ流す #CloudNativeDB

2022-03-25 19:37:53
こば -Koba as a DB engineer- @tzkb

完全にKafkaの世界だなー。この中でSQLが出てくるのに少し違和感すら。個人的には分かりやすいかもだが。 #CloudNativeDB

2022-03-25 19:38:38
Nobuhiro Sue @nobusue

リーダーボード系はRedisがよく使われるとこですが、ksqlDBだとこんな感じになるのか。 #CloudNativeDB

2022-03-25 19:38:56
うひーマン @norikoni

ksqlDBはksqlにPull Queryを追加して生まれ変わった #CloudNativeDB

2022-03-25 19:39:47
ぽんず @ponzmild

ksqlDBは以前はKSQLって名前でしたね...そのときはPull Queryなかったのか #CloudNativeDB

2022-03-25 19:40:20
Nobuhiro Sue @nobusue

Database Inside Out = 「DBの解体と再構築」ですね #CloudNativeDB

2022-03-25 19:41:40
うひーマン @norikoni

データの整合性を保ちつつより広い領域で使う #CloudNativeDB

2022-03-25 19:42:16
こたつ&&みかん @kota2and3kan

Kafka の古いデータ (ログ) についてはリテンションを時間とサイズで定義できるらしい。 #CloudNativeDB

2022-03-25 19:44:08
うひーマン @norikoni

Kafka コミットログが無限にたまってしまうのではないかと思うが,そのログはどう扱うの? →Retantionを定義してあるのでそれを超えると物理削除  時間と容量で指定してやる →kafkaのボトルネックがログ,デフォルト7日だが  そこから小さくすることが多い #CloudNativeDB

2022-03-25 19:44:26
前へ 1 2 ・・ 7 次へ