Qiita (LLM)Japan
VRAM 8GBのノートPCで35B(MoE)をDockerで動かす—— -ot "exps=CPU" でエキスパート層だけRAMに逃がす

この記事の立場:自分のPC・自分の資産の上で、ローカルLLMを動かした記録です。コピペで動く compose.yaml と、実際にハマった所の対処をそのまま載せます。 個人的な備忘録パートとして、お許しください。 0. 要点 対象読者:8〜12GB級のGPUしか無く...
Read at Qiita (LLM) ↗More from Qiita (LLM) on Accept All

Japan【書評】先駆者に学ぶAIプロダクトマネジメント ―アイディエーションから設計、構築、市場投入、運用まで Qiita (LLM)

JapanLinuxカーネルの深刻な脆弱性/FDEの名前で単なるコンサルティングが販売/TypeScriptをRustに移植した「tsrs」発表ほか、2026年10月の人気記事 Publickey
JapanGPT-6モデルはAstra、Sol、それともLuna? OpenAIが教える、Codex爆速開発の鉄則 ITmedia AI+

JapanClaude Codeを1人で使い続けて決めた10のルール ― 権限・指示・記録・約束・確認の実例集 Zenn (AI)

JapanClaude Code を2つ以上動かすと、人間が伝言係になる。窓を15開いた47日の記録 Zenn (AI)
