圧縮ファイルの展開速度を最大1万倍高速化する新しいデータ構造「ギャップ配列」の考案 (広島大・富士通)

広島大学の中野浩嗣教授らの研究チームは、富士通研究所と共同で、 GPUによるハフマン符号の並列展開処理を高速化する新しいデータ構造「ギャップ配列」を考案しました。NVIDIAのTesla V100 GPUを用いて実験した結果、従来の最速展開プログラムに比べ、2.5倍から11000倍の高速化が達成できました。
55
リンク マイナビニュース 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 広島大学は8月31日、富士通研究所と共同で、多くのデータ圧縮方式で採用されている「ハフマン符号」の並列展開処理を高速化する新しいデータ構造「ギャップ配列」を考案したことを発表した。 365 users 63
KOMIYA Atsushi @komiya_atsushi

ほお… エントロピー符号化界隈で SOTA っぽい Asymmetric Numeral Systems との比較はどうなんだろ。 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 news.mynavi.jp/article/202009…

2020-09-02 14:57:04
サスガニくん @okateim

かいつまんで言うと,ハフマン符号を並列処理しやすいように改良したというお話っぽい. -- 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009…

2020-09-02 22:57:04
magicien @magicien_ballon

ちょっとした工夫でめちゃくちゃ効果出ててすごい。今や当たり前なのかもしれないけど、圧縮解凍にGPU使ってるんだね。 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 #SmartNews news.mynavi.jp/article/202009…

2020-09-03 01:24:44
ヴェロ🛡🖥セキュリティVTuber @VELO_ch

圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009… やり取りするデータ量が大きくなっているにもかかわらず、圧縮・展開の高速化が頭打ちになっていたのが、ようやく進みそうです。 今後、動画の世界も飛躍するかもしれない。☺️

2020-09-03 07:10:00
Ph.D.rita @rita0222

圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009… GPUでファイル展開するのが当たり前になるかもね。これもまたローディング時間の削減につながる。素晴らしい。

2020-09-03 13:08:02
yoshinon@情報管理LOG🌻 @yoshinon

今やマルチコアが、当たり前の世界になってきているのだから、それが前提の方式が増えてきても良いよね。 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 news.mynavi.jp/article/202009… pic.twitter.com/kqp7N1euQT

2020-09-04 10:32:01
拡大
ねこまたや @info_nekomataya

圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009… ホイホイ チカラ技の正攻法 直接関係ないけど、昔JPEG圧縮進展ボードを買うかどうか悩んだことをふと思い出した …良いGPU買おうっと

2020-09-03 13:29:57

このあたりがすごい!けど?

MONO @monocle

どうせ可変長なんだから、最初から並列化向けにおまけで元情報の一部をつけてしまえ、ってことか。 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009…

2020-09-03 19:49:08
mohno @mohno

多少の無駄が生じるけど、高速化のために並列処理に向くような圧縮形式を考えた、ということか。既存の圧縮形式と互換があるなら役立ちそうではある(が、無駄が生じるなら使われる場面は限られるかもしれん) / “圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造…” htn.to/3zj7hf9N3x

2020-09-03 12:39:32
Takao Maekawa @bluehornet97

並列処理向きのデータ構造にすることで展開速度を上げる、と。数学的なアプローチになりそうな分野なのに工学的なアイデアなのがエモい。/ 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009…

2020-09-03 13:23:55
n==1 @manga_koji

再読可能化符号の1%増が許される時代が来るとは…そっちのほうが驚きだわ。 / “圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース” htn.to/3FhEz5mqXG

2020-09-03 17:29:39
まきのっぴ @pmakino

既存のアルゴリズムに応用できる汎用性があるようで面白そうだね。ギャップ配列の分圧縮率が悪くなるだろうけど、どの程度なのか。 / 他32件のコメント b.hatena.ne.jp/entry?url=http… “圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース” htn.to/3L4TBEzYkZ

2020-09-03 17:53:55
ぼや @boyahina

データ増加量は0.4~1.5%。えっと32byte(256bit)に1byte増えたら3%ちょいでは?。ギャップ配列も圧縮するのか? 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009…

2020-09-03 19:08:53
itoken/いとけん/イトケン⁨【公式】🆗 @SNDR_SNDL

やはり展開処理って並列化できなかったのか...でもほとんどがI/O時間で並列化しても意味ないと思ってたけどそうでもないのかな?M2 SSDなら恩恵受けられるか? 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009…

2020-09-03 22:44:55
彫木🌗環🧷✂️✏️(オミクロン株にはガッカリだよ) @CordwainersCat

圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009… 単純なアイデアだし理屈は分かるけど何ともダッサイやり方。まあコンピュータ処理なんて、もともとカッコ良くも何ともないダサい工夫の積み重ねだと言えばそうだ。あとは力業w

2020-09-04 07:29:21
順三朗 @junzabroP

圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009… いや、可逆圧縮で符号化後のデータ量が1.5%も増えたらクソですよ?

2020-09-03 13:54:30
じん @jin1016

なるほど。GPUだけじゃなくてSIMDでの処理速度比較も欲しい / 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース news.mynavi.jp/article/202009…

2020-09-03 09:14:53
mkszk @m_k_szk

「圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造」、この方式が速いという点に違和感はないけれども、比較するならHDF5で使われているようなチャンク方式かなあ。解説にあるような粒度だとチャンクはオーバーヘッドが大きくなると思う。

2020-09-03 18:31:03
梅澤威志/ゆーむ @umezawa_takeshi

1万倍って何だよ(ぐるぐる目(後で見る | みてる: 圧縮ファイルの展開速度を最大1万倍超高速化するデータ構造を広島大が考案 | マイナビニュース » news.mynavi.jp/article/202009…

2020-09-03 13:50:43
マシン語P @mashingoP

@umezawa_takeshi ハード戦争華やかりし時代、任天堂がNintendo64の凄さをアピールしようと「データを最大1/100に圧縮する技術を搭載したので実質容量はCD-ROMより上!」と吹いていましたけえ(バイナリーデータも1/100とは言ってない)

2020-09-03 14:09:24