Qiita (LLM)Japan
LM Studio 10 tok/s → 同梱のllama-serverを直接起動したら26 tok/s。--n-cpu-moe 32で30 tok/sまで伸びた(VRAM 8GB)

前回の記事で、RTX 3060 Ti(VRAM 8GB)で Qwen3.6-35B-A3B を動かすと、同じ GGUF でも LM Studio が 6.2 tok/s、Ollama が 19.1 tok/s になったと書きました。原因は分からないままで、「llama.c...
Read at Qiita (LLM) ↗Related

JapanChatGPTのAPIでチャットは動かせたが、PDFに質問したり、調べ物を任せたりするAIアプリの作り方が分からないPythonエンジニアへ。OpenAI、Claude、Geminiを切り替えながら作って学べる一冊 Qiita (LLM)

SiliconThe Wizard of Open Weights: Chris Alexiuk Makes AI Easy With Open Models NVIDIA Blog
GitHubShow HN: A decent text-to-image model trained for ~$20K (Apache 2.0 Weights) Hacker News Show
LabsWelcome Le Chonk: Mistral Large 4 on Hugging Face Hugging Face Blog
ToolsDay 0 support for Mistral Large 4 on vLLM vLLM Blog
