なにこの技術…?画像解析ディープラーニングを使ってさまざまななものをノリノリにしてしまった人現る「これめっちゃ好き」「超笑ってる」

いろいろな発展性がありそう
113
foka @foka22ok

DeepLabをリアルタイムで動かすことができたので、TouchDesigner連携して強制的に音楽にノリノリにさせてみました。 #touchdesigner #deeplab #semanticsegmentation pic.twitter.com/uM72AhKSCk

2020-05-26 18:28:58
foka @foka22ok

思ったより見てくれる人が多いので少し補足。 これはTouchDesignerから映像送ってSegmentationで領域抽出し、その領域だけをリズムのバスドラムの音域使ってオーディオリアクティブで動かしてます。 映像はNHKクリエイティブライブラリーを使わせてもらいました。 リズムはAbleton使って作ってます。

2020-05-27 11:59:59
foka @foka22ok

リアルタイムじゃなくても良いなら、同じDeepLabにより高精度のSegmentationモデルがあります。 高精度は手元のPCだと4FPS程度だったので、精度よりも速度重視モデルを使いました。 それと、リアルタイム不要でクオリティ上げるならinpaintingという領域塗りつぶし技術も検討したいところ。

2020-05-27 11:59:59

みんなの反応

furugen @furugen5

これ、めっちゃ好きですw 面白い。 twitter.com/foka22ok/statu…

2020-05-26 21:31:58
𝙨 _h_ @s0kiggggggggggg

こういう良い意味でアホみたいな技術の使い方すき twitter.com/foka22ok/statu…

2020-05-27 20:50:29
@kayakaya66666

RT:そういうふうにノリノリなの!?(爆笑)

2020-05-27 18:40:44
わふてぃ @zikisashi

₍₍ ◝('ω'◝) ⁾⁾ ₍₍ (◟'ω')◟ ⁾⁾

2020-05-27 19:07:52
KEYCRASH™ @aze_KEYCRASH

これ結構ずっと見てられる

2020-05-27 23:48:55
あべ @OEROrz

リズム天国になっていてかわいい

2020-05-27 23:51:22
rox🍁momijiAC @roxasAC

お前も”ノリノリ”にしてやろうか?!

2020-05-28 06:41:01
DKT @DKTneiro

@foka22ok 色んな最高なMVが出そう…!

2020-05-27 15:25:01
マサーシー@MASA-SEE @masashi0509

これ、VJで使えるなと思ったけどpc死ぬな。 twitter.com/foka22ok/statu…

2020-05-28 11:16:03