Qiita (LLM)Japan
ローカルLLMの記事が読めない人のための最小用語集 — tok/s・prefill・num_ctx・ハーネスを実例つきで解説

「ローカルLLMでコーディング」系の記事を読もうとして、tok/s とか prefill とか num_ctx とかが出てきて挫折した人向けの記事です。 筆者は GPU なし・CPU だけの環境(Ryzen 5 4500U・メモリ32GB)で、ローカルLLMに「ファイルを読...
Read at Qiita (LLM) ↗More from Qiita (LLM) on Accept All

JapanRyzen AI MAX+ 395でNemotron 3.5 Super VLを動かす:画像・動画認識とQwen3.6・Boltの速度比較 Qiita (LLM)

JapanLangChainの構造化出力がnullを返して夜間バッチが全滅した — OutputParserExceptionを防ぐ3つのガードと完全実装 Qiita (LLM)

JapanAIが示したファイルと行番号を、どこまで信用するか――根拠の再取得と検証境界 Zenn (AI)

JapanGo2 を歩かせる — 四足歩行の基本 Zenn (AI)

JapanArtifactsで経営レポートを共有する — Markdownを卒業する Zenn (AI)
