VPS で Ollama を動かす——必要なメモリと、量子化モデルの選び方

VPS に Ollama を入れて、公開されているモデルを自分のサーバーで動かしてみたい。そう考えたとき、最初にぶつかる問いは「どのプランなら動くのか」と「どのモデルファイルを落とせばいいのか」の2つです。 この2つは別々の問いに見えますが、実は1本の線でつながっています。...

Related

JapanローカルAIのキャンセル試験で確認したこと 待機解除と結果反映を分けて見る Qiita (LLM)

JapanPythonで実装するAIエージェントの無限ループ原因解析と実務向けガードレール設計 Qiita (LLM)

ValleyOpen source AI is booming. Hugging Face explains who profits. TechCrunch AI

ValleyHugging Face’s CEO Says His P(Doom) Is ‘Close to Zero’ Wired AI

GitHubRipple-65B Preview: U.S. Open-Weight SOTA on Agentic Coding Hacker News (front)

ValleyBuilding on open source AI? Hugging Face’s policy chief on the costs, risks, and trade-offs TechCrunch AI

More from Qiita (LLM) on Accept All.