Zenn (AI)Japan
小さいモデルで足りる仕事はどこか — 34MBの判定役をMacで動かし、どこからクラウドに渡すかを数字で決める

アプリに「予定を入れて」「タイマーを7分」程度の自然文入力を足したい。それだけのために毎回フロンティアモデル(最上位の巨大モデル)のAPIを叩くと、往復の遅延と課金が乗り、オフラインでは何もできなくなる。かといって手元で動く小さいモデルは、JSONすらまともに返さないという評判がある。この「小さいモデルで足りるのはどこまでか」を、感覚ではなく自分のマシンで出た数字で線引きする。
Read at Zenn (AI) ↗More from Zenn (AI) on Accept All

Japan耳コピが苦手なので、音源からリードシートを作るアプリをAIに作らせてみた Zenn (AI)

JapanAI に毎回読ませる規約を16KB→7.8KBに。削った基準と実測 Zenn (AI)

Japan今日の市場ブリーフィング Zenn (AI)

Japan事実確認を通っても残った言い過ぎ——AIが書いた記事を一次記録で逆引きして直した Zenn (AI)

JapanClaude Code 応用編まとめ その3(#11〜#15):mods・ステータスライン・プラグインで拡張して配る Zenn (AI)
