【STRATA】16GBのRTX 4080でQwen3.8-Flash-Nextが約49 token/s——128GBのDGX Sparkを超えた

1．要旨 VRAM 16GBのRTX 4080で、ファイルサイズ約84GBのQwen3.8-Flash-Next（IQ3_S）を動かした。STRATAでホストRAM 64GBと併用し、生成速度は約49 token/sになった。単独の生成速度では、統合メモリ128GBのDG...

More from Qiita (LLM) on Accept All

JapanAIの「費用対効果が分からない」問題、解決へ？ Claude Enterprise搭載の「3つの新機能」 ITmedia AI+

JapanSkills / Hooks / MCP / CLAUDE.md の使い分け — 判断フローチャート付き Zenn (AI)

JapanPlatform Engineering入門：開発者とAIエージェントのための「舗装された道」を作る Zenn (AI)

Japanサイバー攻撃とIT業界の構造的欠陥 Zenn (AI)

JapanGMOがサイバー攻撃情報に異例の1.5億円懸賞金、AI時代の新防衛策となるのか ITmedia AI+

JapanAIエージェントは「実運用」が主流に 「明確な成果」を得る企業の共通点は？ ITmedia AI+

More from Qiita (LLM) on Accept All.