Pwrake: Distributed Workflow Engine based on Rake / RubyKaigi2016

0
前へ 1 ・・ 3 4 次へ
そのっつ (Naotoshi Seo) @sonots

あー、sshでキックしてるだけなのか。

2016-09-09 16:08:31
joker1007 (アルフォートおじさん) @joker1007

ジョブの再投入を途中からやるのに、ファイルの存在を前提にしているのは割と我々の領分だと使い辛さを感じる。 #rubykaigiA

2016-09-09 16:11:03
そのっつ (Naotoshi Seo) @sonots

ファイルがすでに生成されてるかどうかで、どこまでジョブが進んでいたのかを認識するのか

2016-09-09 16:11:06
キヴィタスポ(人工知能) @Civitaspo

なんで rake なのさ。と思って別セッション行っちゃったんだけど、こっち行っておけばよかった… orz #rubykaigi / “Pwrakeとは · masa16/pwrake Wiki · GitHub” htn.to/xS6hyR

2016-09-09 16:12:25
にせれぶ @2celeb

司会者権限なんてあるのかww #rubykaigiA

2016-09-09 16:13:35
kinoppyd @GhostBrain

アシストを全力で打ち返していくスタイル #rubykaigi #rubykaigiA

2016-09-09 16:13:42
Takayuki Togo @59t9

pwrakeにスターを付けよう(どっかのOSSカンファレンスで聞いたことある内容だったんだなあ)

2016-09-09 16:14:13
WAKASUGI 5T111111 @5t111111

Pwrakeって既存のRakeを拡張するものではなくて似た仕様とDSLを持った実装なのかな #rubykaigi #rubykaigiA

2016-09-09 16:14:56
gihyoreport @gihyoreport

Masahiro TANAKAさん @masa16tanaka による講演「Pwrake: Distributed Workflow Engine based on Rake」。 #rubykaigi #rubykaigia pic.twitter.com/NufyaGgu5i

2016-09-09 16:16:38
拡大
拡大
トゥギャッター開発まとめ @tg__dev

「高性能並列実行を目指して Rakeベースのワークフローエンジン Pwrake 紹介 #RubyKaigi #RubyKaigiA」をトゥギャりました。 togetter.com/li/1022349

2016-09-09 16:25:11
programming togetter @programmingtoge

togetter.com/li/1022349 高性能並列実行を目指して Rakeベースのワークフローエンジン Pwrake 紹介 #RubyKaigi #RubyKaigiA #programming

2016-09-09 16:31:06
sue445 @sue445

rukawa, PwrakeにCFPで負けてたのか、、、 #rubykaigi

2016-09-09 20:00:03
masa16 @masa16tanaka

Gfarmワークショップで Pwrake のチュートリアルを1時間することになってつらい oss-tsukuba.org/event/gw2016

2016-09-10 00:03:45
joker1007 (アルフォートおじさん) @joker1007

I uploaded slides for LT. Sorry, a few pages is mix of Japanese and English. / ワークフローエンジンRukawaと実装のサボり方 joker1007.github.io/slides/rukawa_… #rubykaigi

2016-09-11 21:52:14
Sadayuki Furuhashi @frsyuki

digdagでは、意図的にファイル名をタスク名として使わないようにしていて、タスクの終了/未実行をファイルとは別に管理するのだけども、そこがRakeやMakefile系とは根本的に違うな。

2016-09-12 14:56:29
Sadayuki Furuhashi @frsyuki

.c → .o 程度の変換なら問題は無いのだけども、.csv から .dat と .mk を作って、2つをくっつけて .x を作る…のような良くあるfork-join処理が困るとか、ファイルは存在するが中途半端に作成されている状態を誤って終了済みにしてしまうとか。

2016-09-12 14:58:54
Sadayuki Furuhashi @frsyuki

一方でファイル名を使うと、ファイルのローカリティを使うような最適はしやすそう。分散ファイルシステムと密結合になるか…

2016-09-12 15:00:09
Kazuho Oku @kazuho

@frsyuki 後者の問題は、処理中を表す .tmp ファイルを作ったりすれば解決できますよね

2016-09-12 15:04:47
Sadayuki Furuhashi @frsyuki

@kazuho それは定石ですが面倒だし忘れるんですよね…問題が起こったときに初めて、壊れた空のファイルが残っているのが原因だった、という類の、原因を見つけにくくハマりやすい問題だと思います。

2016-09-12 15:07:01
Kazuho Oku @kazuho

@frsyuki はい。ビルドツール側でテンポラリファイル作ればその問題は解決するよねという趣旨でした

2016-09-12 15:08:28
Sadayuki Furuhashi @frsyuki

@kazuho それはつまり、ファイルが存在すればタスクが終了しているとみなすのをやめて、ビルドツール側がタスクの終了状態を管理する、ということであってますか? それともファイルの作成を必ずビルドツールでやらせる?

2016-09-12 15:10:17
前へ 1 ・・ 3 4 次へ