最新型超高性能Phi-3 medium 14BとOllamaを使いローカルLLMで日本語質問してみた。8GBで日本語は完璧なのがとても凄い。がボキャブラリ的な知識量に課題あり。たった8GBの容量だから仕方がないが小型LLMとしては超高性能凄い

MSが公開した最新型LLMモデルのPhi-3 mediumをテストしてみました。小型LLMとしてはとても高性能ですがボキャブラリ的にはChatGPTに負けますのが課題。それでも無料かつオープンソースなのは凄いです。MITライセンス
5
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224

Ollamaを使ってPhi 3 Medium 14Bを入れた。Linuxの場合2行コピペだけでOK。この超絶簡単さは素晴らしい curl -fsSL ollama.com/install.sh | sh ollama run phi3:medium pic.twitter.com/YZy9B8mJZ9

2024-05-26 17:29:42
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224

OllamaとPhi-3 Mediumにウマ娘のライスシャワーとアスカのモノマネさせてみた。アスカは流石にドキュメントがあるのか、流石に14Bでウマ娘は無理か・・・ 学習データの思考実験(嘘 pic.twitter.com/OHVMK4NA4d

2024-05-26 17:34:33
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224

OllamaとPhi-3にLinuxとWindowsの長所と短所を書いてもらう。ちゃんとした日本語になっているのは素晴らしいがボキャに限界はあるな。14Bは性能良さそうだが辞書量は追加学習すると良いかもしれん pic.twitter.com/ykn2by7WQq

2024-05-26 17:55:48
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224

お腹がすいてきたのでOllamaとPhi-3にペッパーランチのオススメメニューを聞いてみたが・・・どこのメニューか分からんw 日本語と英語で両方間違っているので知識が無いのかな・・・ pic.twitter.com/QKd6gMtE8x

2024-05-26 18:17:00
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224

OllamaとPhi-3にPythonプログラムを書かせたが、途中で終了して切れてしまったw pic.twitter.com/KgezQHtCox

2024-05-26 18:47:29
拡大