最新型超高性能Phi-3 medium 14BとOllamaを使いローカルLLMで日本語質問してみた。8GBで日本語は完璧なのがとても凄い。がボキャブラリ的な知識量に課題あり。たった8GBの容量だから仕方がないが小型LLMとしては超高性能凄い
MSが公開した最新型LLMモデルのPhi-3 mediumをテストしてみました。小型LLMとしてはとても高性能ですがボキャブラリ的にはChatGPTに負けますのが課題。それでも無料かつオープンソースなのは凄いです。MITライセンス
- kapper1224
- 1464
- 4
- 0
- 17
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き
@kapper1224
Ollamaを使ってPhi 3 Medium 14Bを入れた。Linuxの場合2行コピペだけでOK。この超絶簡単さは素晴らしい curl -fsSL ollama.com/install.sh | sh ollama run phi3:medium pic.twitter.com/YZy9B8mJZ9
2024-05-26 17:29:42
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き
@kapper1224
OllamaとPhi-3 Mediumにウマ娘のライスシャワーとアスカのモノマネさせてみた。アスカは流石にドキュメントがあるのか、流石に14Bでウマ娘は無理か・・・ 学習データの思考実験(嘘 pic.twitter.com/OHVMK4NA4d
2024-05-26 17:34:33
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き
@kapper1224
OllamaとPhi-3にLinuxとWindowsの長所と短所を書いてもらう。ちゃんとした日本語になっているのは素晴らしいがボキャに限界はあるな。14Bは性能良さそうだが辞書量は追加学習すると良いかもしれん pic.twitter.com/ykn2by7WQq
2024-05-26 17:55:48
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き
@kapper1224
お腹がすいてきたのでOllamaとPhi-3にペッパーランチのオススメメニューを聞いてみたが・・・どこのメニューか分からんw 日本語と英語で両方間違っているので知識が無いのかな・・・ pic.twitter.com/QKd6gMtE8x
2024-05-26 18:17:00
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き
@kapper1224
代わりにChatGPTに聞くとこんな感じw 知識量では叶わないか pic.twitter.com/uU6vat03JB
2024-05-26 18:18:41
拡大
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き
@kapper1224
OllamaとPhi-3にPythonプログラムを書かせたが、途中で終了して切れてしまったw pic.twitter.com/KgezQHtCox
2024-05-26 18:47:29
拡大