mutaguchi @mutaguchi@fedibird.com

ここまでやったんだし、結局b4350をダウンロードして試した。

BitNet版と同じ、「あなたは優れた日本人アシスタントです。」というシステムプロンプトでFalcon3-10B-Instruct-q4_k_m.ggufを実行した結果はこう。まあ、そういうことだな…。

確かにFalcon3は日本語は得意ではない感じではあるが、それでもBitNet版との出力とは比較にならないね。

Falcon3-10B-Instruct-1.58bitはこんな感じ。まあ、想像通り、使い物になるレベルではない。
今、4bit量子化モデルを落としてきてるので、それも試してからBitNetの最終評価をしようと思う。

とにかく今こうなってる。

このスクショがすべてだな。本当に酷すぎる。（回答が誤りだという指摘の記事をソースにしてしまってる点も含めて）
これでよくAI名乗れるよほんと。

https://x.com/irof/status/1838408404685197609
PowerShellではどうだったかな、と思ったら、URLをコードに書けるどころか、関数名に普通に使えた。逆に面白くないな。

まあ個人レベルでやるべきことは、これ一択ではある。