2023年春のAI狂想曲

Jun Rekimoto : 暦本純一 @rkmt

editGPT確かに使いやすい。サンプルのpromptも有用。論文添削指導のベースラインは人間から機械に移った感じがする。これは「現代のスペルチェッカー」なので、「スペルチェックすらしていない文章を人間に添削させるはありえない」のAI化版の時代になった。 twitter.com/i/web/status/1… twitter.com/shuafeiwang/st…

shuafeiwang @shuafeiwang

Introducting editGPT, a chrome extension that takes your editing and proofreading on chatGPT to the next level editgpt.app #chatGPT #proofreading @grammarly 😉 pic.twitter.com/L5R3G3CfqV

2023-02-16 00:48:50

QDくん⚡️AI関連の無料教材紹介 @developer_quant

東大が無料公開している数理最適化の講義動画(全13回)。機械学習の基礎になっている最適化手法も学べる。 ocwx.ocw.u-tokyo.ac.jp/course_11412/ ・最適化の概要 ・連続最適化：無制約最適化 ・連続最適化：制約付最適化 ・凸計画 ・ネットワーク計画 ・組合せ最適化 ・整数計画 pic.twitter.com/t9fVJ7v8Ki

拡大

拡大

拡大

拡大

nyker_goto @nyker_goto

ChatGPT と自然言語処理 / 言語の意味の計算と最適輸送 speakerdeck.com/eumesy/chatgpt… 読んでる。ChatGPTの部分も良いんだけど言語間embeddingが直交変換で重ね合わせできるの知らなかった。ぐろもふ=わっさーすたいん距離すげえ。 pic.twitter.com/YIbGhRcml2

拡大

やまかず @Yamkaz

うぉぉぉ！！！ ［速報］マイクロソフト、自然言語で誰でもアプリケーション開発が可能になる「Copilot in Power Automate」「Copilot in Power Apps」発表 publickey1.jp/blog/23/_copil…

Kazunori Sato @kazunori_279

この辺りを詳解したブログか書籍を読みたい。。 "特に言語については言語自体が持つ構造（特に構成性）も利用していること、またin-context learningが自己注意機構を利用したメタ学習によって実現していることがわかっており" twitter.com/hillbig/status…

Daisuke Okanohara / 岡野原 大輔 @hillbig

@alfredplpl LLMがこのようなことができる（もしくはできない）ことを説明する研究は既に多くでていると思います。LLMが次の単語予測タスクを目標とした自己教師あり学習を介して様々な能力を獲得でき、特に言語については言語自体が持つ構造（特に構成性）も利用していること、またin-context… twitter.com/i/web/status/1…

2023-03-19 05:41:08

田口善弘＠発言は私の個人としての見解であり中央大学やその機関の意見を代表するものではありません @Yh_Taguchi

残念ながら英語なのですがGPT-4になってChatGPTから何が変わったかがわかりやすくまとまっています。 GPT-4 vs. ChatGPT: An Exploration of Training, Performance, Capabilities, and Limitations by Mary Newhauser in @TDataScience towardsdatascience.com/gpt-4-vs-chatg…

田所 淳 ✘🍥 @tadokoro

この一連のスレッドが面白かった。ChatGPTなどのOpenAIのサービスを支えるために最新のマシンがぎっちり詰まった巨大なデータセンターだけじゃなく、莫大な電力を賄うための巨大なダムまで持っている。普通の企業じゃ対抗できないよな… で、その最新鋭の設備を使用して大喜利をしている私たち… twitter.com/tim_zaman/stat…

Tim Zaman @tim_zaman

Azure/Microsoft released pics of OpenAI's next-gen AI datacenter. This supposedly powers [Chat]GPT* training (inference?). From the pics we can infer most components, power, network/ib topology, layouts, vendors and more. A thread 🧵[1/7] pic.twitter.com/ZpFpX23bWv

2023-03-18 15:44:24

kmizu @kmizu

プログラマーやってる人で、案外ChatGPTの頭おかしい言語処理性能に気づいて人多いのちょっと不思議なんですよね。 トランスパイルにしても単に出来る、だけじゃなくてJava -> CのときにStream API -> 配列みたいな「このデータ構造はこっちの言語のこれに対応している」のを類推してるのが凄い。 ↓

人工知能・機械学習ニュース [公式] @A_I_News

画像生成AIでも使われるAIライブラリ「PyTorch」のメジャーアップデート版「PyTorch 2.0」正式リリース - GIGAZINE（ギガジン） news.google.com/rss/articles/C…

erukiti @erukiti

ChatGPTやその中身であるGPT-3.5やGPT-4には、プログラミング言語を逐次実行する能力があるので、めちゃくちゃ簡単にですが、記事にまとめてみました。多分僕が書いた技術ブログの中で一番短いと思う このテクニック、実はめっちゃいろいろ応用が効くんですよね（たぶん zenn.dev/erukiti/articl…

深津 貴之 / THE GUILD @fladdict

GPT4内のプログラム、地味に特許とろうと温めてたけど、間に合わなさそうなのでもう出しちゃお。 以下みたいに書くと、雑なプロンプトでも勝手に高品質になる。 pic.twitter.com/6drQpUbKEl

拡大

拡大

深津 貴之 / THE GUILD @fladdict

向こうから質問してくれるAIのメモ。 あと勝手に一人芝居はじめない仕組み。 pic.twitter.com/aHarsKmkb0

拡大

Masa Kazama @masa_kazama

「手元で動く軽量の大規模言語モデルを日本語でファインチューニングしてみました(Alpaca-LoRA)」という記事を書いてみました。手元で動かせるのはすごく今後の可能性を感じますね。 note.com/masa_kazama/n/…

深津 貴之 / THE GUILD @fladdict

note書きました。最近はAIと対話をするのが楽しいです。 writing... プロンプト・エンジニアリングの真髄とは何か？ note.com/fladdict/n/n99…

erukiti @erukiti

zenn.dev/u_u/articles/5… GPT-3.5もGPT4も、S式は何のプロンプトもなしでいけるやと... これ、TypeScriptで格闘するより楽だし汎用性高そうだし、これで良いのでは！！ > (小説化 (reverse "AIはコーヒーを淹れない")) > (子供っぽくする "今日は寒いですね") みたいなのもいける

人工知能・機械学習ニュース [公式] @A_I_News

グーグル社員が夢中になる未発表の対話型AI｢Big Bard｣って何だ ... - Business Insider Japan news.google.com/rss/articles/C…

らむね @__ramu0e__

本質的にTransformerに記憶を実装する方法 k, v等のを隠れ状態を毎回保存 得た入力と類似する過去の入力を検索、新しい入力の前に追加する。 この時過去の処理結果がキャッシングされるため実行が早い 更にこの条件でFTして性能上がる 確かにその方が推論早くなるし、FTのアイディアいいな twitter.com/nearcyan/statu…

near @nearcyan

Memorizing Transformers extends language models with the ability to memorize the internal representations of past inputs via knn-lookup into an external memory of recent (k, v) pairs, improving performance with memory size of up to 262K tokens arxiv: arxiv.org/abs/2203.08913 pic.twitter.com/eO2wBr7gGB

2023-03-21 03:59:13

やまかず @Yamkaz

うぉー！！！ 言葉だけで動画を生成できるAI「Gen-2」が発表！！！ research.runwayml.com/gen2 以前発表されたGen-1は入力動画/画像が必要だったけど、今回のはテキストだけでもいけるらしい。やばい..。もうすぐサイトで公開されるとのこと pic.twitter.com/AP4Z4CheEQ

やまかず @Yamkaz

【衝撃】なんとAUTOMATIC1111 WebUIで動画生成が可能に github.com/deforum-art/sd… 先日話題になったModelScopeにアップロードされた動画生成モデルが利用できるAUTOMATIC1111の拡張機能が登場。8GB VRAMで256x256の動画が作成可能 pic.twitter.com/2GHtCNOPdp

拡大

やまかず @Yamkaz

手元で動く軽量の大規模言語モデルを日本語でファインチューニングしてみました(Alpaca-LoRA)｜masa_kazama @masa_kazama note.com/masa_kazama/n/…

NISHIO Hirokazu @nishio

これって天才的発想の芽だと感じる。つまりChatGPTが自分のしたい「探索行動」を言葉で表現できるなら、それを受け取ってChatGPTができない探索行動を代わりにやって返すシステムと結合できる(そのシステムが人間か検索かは瑣末)ということなのだと思う zenn.dev/qwegat/article…

mattn @mattn_jp

go-sqlite3 に限らないんだけど SQLite3 のパラメータ付きクエリで LIKE を使う時 fmt.Sprintf("SELECT x FROM y WHERE z LIKE %%%s%%", p) とやってるコードが多いが正しくは LIKE ? にしてパラメータとして "%" + p + "%" を渡すんやで。前者の方法は SQL インジェクションあるから即直してね。

あるふ @alfredplpl

大規模言語生成モデルや拡散モデルが与える社会的影響をGPT-4に英語で聞いてから、日本語にしてもらった。もちろんOpenAIのレポートを熟読した方がいいと思うが、おおよそは当たっているから、読んでおいてほしい。 応答:… twitter.com/i/web/status/1…

ITmedia NEWS @itmedia_news

GPT-4が労働市場に与える影響と各職種のリスク評価──OpenAIの研究者が論文発表 itmedia.co.jp/news/articles/… pic.twitter.com/ERANB74uif

拡大

ポテト一郎🥔 @potetoichiro

え、え、え、！ こんなシンプルな1つの図形で、非周期に平面を充填できるんですか！？衝撃的です！！ twitter.com/cs_kaplan/stat…

Craig S. Kaplan @cs_kaplan

In a new paper, David Smith, Joseph Myers, Chaim Goodman-Strauss and I prove that a polykite that we call "the hat" is an aperiodic monotile, AKA an einstein. We finally got down to 1! arxiv.org/abs/2303.10798 4/6 pic.twitter.com/debT8AcIYV

2023-03-21 10:55:32