限定公開でまとめを作れば、相互フォローやフォロワー限定でまとめを共有できます!

ORDER BY 狙いのキーの話2

有用だと思ったので一連の流れをまとめてみました。
11520view 0コメント
14
Kenn Ejima @kenn
普通のSQL処理と逆に、ORDER BYするカラムにだけインデックス張って、あとはソート順にレコードを取り出しながらWHERE句を評価していく、みたいな処理ってできないの?
Kenn Ejima @kenn
男女のマッチングは、個人を大量の属性をもった多次元ベクトルへと正規化して、その多次元ノルム空間上での近さ順に(P)R-treeとかで取り出すのが良さそうなんだけど、MySQLでやれるかなぁ。PostgresならKNNGiSTが使えそうだけど、やっぱり処理順がネックか。。
SH2 @sh2nd
@kenn UDFでの実装事例があるそうです。これと http://t.co/MOvFlE92F2 これ http://t.co/jzbq5bTs1x (コードへのリンクが切れてるっぽいですが)
SH2 @sh2nd
@kenn もう少しまとまった記事、これ http://t.co/IWb74YT9Y7 と、これ http://t.co/9AHbEVGiFz
Kenn Ejima @kenn
@sh2nd なるほど、ORDER BYを使わずにtop-nの記憶を自前でやって1-pathにしてO(NlogN) -> O(N)にするってことですね。さすが @kazuho さん面白い。
Kenn Ejima @kenn
@sh2nd でも、O(N)でも厳しくなってくるので、できればORDER BY順にレコードを取り出して、必要な件数集まったら処理を中止させることで、さらにO(logN)にしたいんですよね。
Kenn Ejima @kenn
@sh2nd ふと思ったんですが、ソート用キーだけ持ったテーブルを別に用意して(R-tree使いたいのでMyISAM)、こいつをFROM句にORDER BY順にマテリアライズしながら本体テーブルとJOINして、本体側でWHERE句で絞れば、NLJなら処理止められる?
Ryuta Kamizono @kamipo
@kenn MySQLであれば、ORDER BYするカラムに張ったインデックスを使うようにFORCE INDEXでヒントを与えればソート順にレコードを取り出しながらWHERE句を評価していくことはできます。条件によって狙ったところで探索を打ちきれない場合はありますが。
Kenn Ejima @kenn
@kamipo まじですか、それは素晴らしい!条件によって探索を打ちきれない場合というのは、どういう場合か教えていただけませんか?
Kenn Ejima @kenn
@kamipo あ、もしかして、単に条件にあうレコードが見つからずに結局末尾までスキャンしてしまうことがあるっていう意味ですかね?だとしたら納得です。
Ryuta Kamizono @kamipo
@kenn そういう意味です!それに気をつけないで使われると死ぬので。
Kenn Ejima @kenn
@kamipo なるほどなるほど。ありがとうございます!視野が開けました。
SH2 @sh2nd
@kenn 速くなりました。ただこれ最後のOFFSETの前にORDER BY sort_keyを入れないで、結果が保証されるかは微妙かも
Kenn Ejima @kenn
@sh2nd おぉ、ありがとうございます!たしかに結果の保証はないですよねぇ。Nested Loop Joinの原理的に、あえて違う結果を出すほうが難しそうだとは思うものの。。。
SH2 @sh2nd
@kenn 測定結果 https://t.co/JNOIwEVD0I FORCE INDEXつけないと言うこと聞きませんでした。あとこの例だとordersのカラムでソートすると高速にならないので万能ではないみたいですね
Kenn Ejima @kenn
@sh2nd おー、詳細ありがとうございます!たしかに駆動表は固定してあげる必要ありますね。マテリアライズの時点ではcustomer_ix1 (c_first)なかったのかな?あればFORCE INDEXなくても動くような気もしますが。。
Kenn Ejima @kenn
@sh2nd あ、ごめんなさい、勘違いしてました。c_sortでしたね。
SH2 @sh2nd
@kenn はい、c_sortにはそれっぽいインデックス付けておきました
Kenn Ejima @kenn
@sh2nd c_sort_ix1が選択されてましたね。てことは、やっぱりORDER BY狙いのインデックスにFORCE INDEXしてやるのでFAっぽいですね。LIMIT件数に達しなければフルスキャン(+インデックスとの往復)になっちゃいますが、現時点では一番マシな方法かも。
Ryuta Kamizono @kamipo
SQLで実現できる一番マシな方法よりマシな探索方法を実現しようとすると、闇の技術に手を染めることになる。
ログインして広告を非表示にする
ログインして広告を非表示にする