並列化とは余積の構成である

簡単なことが簡単であることの理由は難しい、という話をしてみました 「驚異的並列」は計算機科学の概念で https://en.wikipedia.org/wiki/Embarrassingly_parallel 「余積」は数学の概念です https://en.wikipedia.org/wiki/Coproduct (改題前:驚異的並列と余積の構成)
1
(change of )*state @TuvianNavy

驚異的並列性と余積の構成、という話、

2020-06-30 16:59:43
(change of )*state @TuvianNavy

mapが自由でreduceが自明なのが驚異的並列

2020-06-30 17:06:06
(change of )*state @TuvianNavy

アムダールの法則に出てくる「計算時間」ってどういう量だ?

2020-06-30 19:47:12
(change of )*state @TuvianNavy

驚異的並列の場合、直列計算したときと並列計算したときで(ほとんど)変わらないのがこの「計算時間」とかいう量。

2020-06-30 19:48:59
(change of )*state @TuvianNavy

肝心なことを言い忘れていた 誤解の余地はないと思うけど、計算時間は「延べ」です

2020-06-30 21:19:51
(change of )*state @TuvianNavy

同じく謎なのが「タスク」。直列の時と並列の時のタスクがどういう関係なのかよくわからない。

2020-06-30 19:50:30
(change of )*state @TuvianNavy

何の話かというと、例えばGPUで描画をシェーダーに分割して、各シェーダーはそれぞれ自分の担当部分だけをせっせと描く、そして出来上がった絵はまあ特にシェーダーの境目で酷く特異性が入ることもなく普通に見れる、といったときに、これは描画するポリゴンが重なってないからというのと、

2020-06-30 20:19:37
(change of )*state @TuvianNavy

シェーダーが貼り付けるテクスチャとかが適当に滑らかにつながるようにしている、というのと

2020-06-30 20:20:53
(change of )*state @TuvianNavy

まあだからテクスチャマッピングはそんなに並列性高くはないよね、あくまでポリゴンの描画とその座標変換だけが驚異的に並列度が高いだけで 要するにこの空間分割の自然さから並列性が来ているのであって、これは計算結果を座標変換する先の空間自体の性質

2020-06-30 20:23:17
(change of )*state @TuvianNavy

結局、領域の等質性とその処理時間の(ほぼ)加法性の間をつなぐものが具体的な計算過程の評価以外になくて、

2020-06-30 20:29:31
(change of )*state @TuvianNavy

でもポリゴン描画と、テクスチャマッピングと、レイトレーシングの違いはそれだけで説明できるか。。

2020-06-30 20:30:20
(change of )*state @TuvianNavy

まあシミュレーション仮説みたいなもので計算量と領域の外延的な量を結び付けるしかないのかなあ

2020-06-30 20:40:33
(change of )*state @TuvianNavy

たとえば熱力学とはいえないんだけど粒子数と体積ってまあ比例するよね、ただ相対論的な質量効果が出てくるとほんのり潰れて比例関係は壊れる

2020-06-30 20:32:12
(change of )*state @TuvianNavy

むしろ我々は計算機でいつも非可換性、曲がった空間しか見てなくて、たまに可換性、加法性、驚異的並列性などを見ると珍しいと思う

2020-06-30 20:33:11
(change of )*state @TuvianNavy

でも計算時間の≦な優加法性くらいはいえるのか

2020-06-30 20:42:17
(change of )*state @TuvianNavy

描画の延べ計算時間と3Dモデルのポリゴン数の比例関係は簡単な話ではないけど、粒子数と質量と体積の比例関係が(非相対論的な領域で、重力勾配の影響もなく、かつ転移点を含まない温度圧力範囲で)成り立っている理由の説明はもっと簡単ではない

2020-06-30 21:37:53
(change of )*state @TuvianNavy

使う側としてはそれが3DCGであり、それが物質である、というところでやめにしておくのがいいと思う

2020-06-30 21:38:59
(change of )*state @TuvianNavy

物質の均質さって、なんだ? 今まで見てきたように、ITで扱う対象において情報的な均質さが近似的にであれ実現されている例は「驚異的並列」処理が可能な特殊な領域(シャーディングしたRDBMSのorder byなしのSELECTとか、ポリゴン分割した3Dモデルのレンダリングとか)に限られる

2020-07-03 09:28:04
(change of )*state @TuvianNavy

均質に(複数のコンポーネントに)分解できる情報処理領域の特徴としては、ヒステリシスを持たないか、閉じた形でヒステリシスを有しており他のコンポーネントに影響を与えないこと、が挙げられると思う

2020-07-03 09:35:37
(change of )*state @TuvianNavy

これは最近の情報処理基盤関係の技術トレンドの一般的傾向でもある(個々のコンポーネントに歴史と個性を持たせない)

2020-07-03 09:36:49

ペットから家畜へ、とか最近言わないね。。
http://cloudscaling.com/blog/cloud-computing/the-history-of-pets-vs-cattle/

(change of )*state @TuvianNavy

RDBMSの分散ストレージエンジンやGPUのシェーダーユニットを初期化してから検索やレンダリングが終わるまでの期間、およびその状態を集約する期間は系にとって「時間量子」となる、つまりこのタイムスケールにおいては情報処理基盤の「均質性」は言えない

2020-07-03 09:49:52
(change of )*state @TuvianNavy

純粋な物質の場合でも内部の情報共有における時間量子、すなわちフェムト秒からマイクロ秒程度(系の粘性による)の緩和時間においては均質とはいえないはず

2020-07-03 09:51:36
(change of )*state @TuvianNavy

同様に、人間にとってミリ秒未満の時間は存在しているとは言えない

2020-07-03 09:58:21