Zenn (AI)Japan
ローカルLLM study10: 三値量子化Bonsai 2の小型版（2B/4B/9B）を、同サイズの通常量子化と並べる
結論: 三値量子化Bonsai 2の小型版(2B/4B/9B)は、2Bと4Bで同サイズの通常量子化より崩れやすく、9B以上では差が小さかった。出力速度は27Bを含めて三値が約1.9〜2.8倍だった。 読者が得るもの: 「サイズを下げると何が壊れるか、それは三値量子化のせいか」を、同条件の対照付きで見た結果。
Read at Zenn (AI) ↗Related
Japan`claude -p --restricted` の `/スキル名` は展開されていなかった ― モデルが自力で探し当てていた1週間 Zenn (AI)
JapanClaude Code に $100 分のクレジットを渡して「稼いで」と頼んだら、26 日後の売上は 0 円だった Zenn (AI)
JapanJevでプロンプトを仕分けして、Claudeのモデルを自動で切り替える Zenn (AI)
JapanGemini Omni 1.2 Flash GA：動画生成30%値下げと1.1 Flash自動移行の対応ガイド Qiita (LLM)
JapanGPT-6モデルはAstra、Sol、それともLuna？ OpenAIが教える、Codex爆速開発の鉄則 ITmedia AI+
